Инцидент с ИИ в полиции Юты: полицейский стал лягушкой

В городе Хибер-Сити, штат Юта, полицейское управление обнаружило курьезный сбой в работе программного обеспечения для автоматического написания отчетов. ИИ-программа Draft One, анализируя видеозапись с нательной камеры, неожиданно сообщила, что офицер полиции превратился в лягушку. Причиной этого недоразумения стало то, что во время записи звучал мультфильм Disney «Принцесса и лягушка», и ИИ воспринял его аудиодорожку как реальную информацию. «Это был важный урок о необходимости проверки отчетов, созданных ИИ», — отметил сержант Кил в интервью Fox 13. Департамент тестирует две системы: Draft One от Axon и альтернативную Code Four. Draft One, использующая GPT-4 Turbo, интегрирована в экосистему Axon и стоит 65-70 долларов в месяц за каждого офицера. В то время как Code Four, также основывающаяся на аудио, добавляет таймстемпы и анализирует интонацию. Журналисты Fox 13 присутствовали на демонстрации Code Four, где система успешно сгенерировала отчет после учебной остановки автомобиля. Серджант Кил подчеркнул, что технология экономит ему 6-8 часов в неделю, хотя окончательная проверка все еще остается необходимой.