L’école de secteur de la ville de Mason City, dans l'Iowa aux Etats-Unis, a utilisé ChatGPT pour retirer de ses bibliothèques scolaires 19 livres dont les administrateurs ont constaté qu'ils contenaient "une description ou une représentation d'un acte sexuel". Depuis mai 2023, l'État très conservateur a signé une nouvelle loi visant à protéger les mineurs de contenus jugés obscènes qui comportent des “descriptions ou représentations visuelles d’un acte sexuel”.
Comment l’école a-t-elle déterminé si le livre devait être retiré de ses bibliothèques ? Selon la presse locale le Mason City Globe Gazette, elle a commencé à utiliser ChatGPT pour générer une liste de livres qui pourraient être bannis des bibliothèques pour l’année scolaire 2023/2024. Parmi les livres interdits figurent Les cerfs-volants de Kaboul de Khaled Hosseini, La servante écarlate de Margaret Atwood ou encore Je sais pourquoi l’oiseau chante en cage de Maya Angelou.
Lire aussi ChatGPT, IA génératives... Enquête sur les craintes et espoirs des professionnels de l'information
Censurer un livre en une seule question
Pour se conformer aux nouvelles exigences de la loi, l’école a dû passer au radar tous les livres de ses bibliothèques. Une mission titanesque, puisqu’elles comportent des milliers d’ouvrages. “Il n’est tout simplement pas possible de lire tous les livres et de filtrer ces nouvelles exigences", expliquait Bridgette Exman, directrice adjointe des programmes et de l'enseignement de Mason City pour Mason City Globe Gazette.
Pour aller plus vite, les administrateurs auraient donc, selon Popular Science, saisi la question "Le livre contient-il une description ou une représentation d'un acte sexuel ?" dans ChatGPT pour chaque livre généralement contesté. Si la réponse est positive, le livre est retiré des rayons et stocké dans le centre administratif, en attendant des précisions sur le futur de ces ouvrages.
"Franchement, nous avons des choses plus importantes à faire que de passer du temps à essayer de comprendre comment protéger les enfants des livres", se désolait la directrice adjointe. "En même temps, nous avons l'obligation légale et éthique de nous conformer à la loi. Notre objectif est de mettre en place un processus défendable.”
