Искусственный интеллект в школьных библиотеках: новая волна цензуры

В американских школьных библиотеках внедрился новый инструмент — система Class-Shelf Plus от компании CLCD, использующая искусственный интеллект для автоматической маркировки книг. Литература классифицируется по цветовой шкале: зелёный — безопасно, красный — под вопросом. Однако информация о том, на каких данных обучался алгоритм, остается закрытой. Производители утверждают, что это облегчит жизнь библиотекарям в условиях ужесточения законов о «чувствительном контенте», а администрации школ радуются возможности снять с себя ответственность за сомнительные материалы.

Тем не менее, система подвергает фильтрации множество книг, включая произведения о расовой истории и ЛГБТ-темах. Библиотекари не успевают проверять все решения алгоритма, что ставит под угрозу профессиональную оценку. Политическое давление добавляет проблем: в некоторых штатах педагогам угрожают уголовной ответственностью за «вредные идеи».

Профессиональное сообщество предупреждает о том, что вместо помощи библиотекари погружаются в бюрократию, а автоматизация лишь увеличивает нагрузку. В результате, под маской технологического прогресса формируется система централизованной цензуры, где алгоритм определяет границы допустимого, а специалисты становятся жертвами автоматизации.