Мэр Нью-Йорка Эрик Адамс поддержал введенного в город искусственного интеллекта чат-бота, несмотря на то, что он предоставляет владельцам бизнеса вводящую в заблуждение информацию, часть из которой может привести к нарушениям закона. Несмотря на то, что MyCity чат-бот был запущен в октябре как пилотный проект с целью предоставления владельцам бизнеса точной информации, сейчас его критикуют за предоставление вредных советов.
Споры вокруг Чат-бота и Официальный Ответ
MyCity чат-бот, который был запрограммирован для предоставления предпринимателям актуальных советов в реальном времени, критикуют из-за неправильных рекомендаций, которые он дает. Наиболее заметно, что расследователи из The Markup привели примеры чат-бота, предоставляющего неверную информацию о трудовом законодательстве и других нормативных актах.
Например, он ошибся, когда сказал, что работодатели могут вычитать зарплату сотрудников из их чаевых, и не знал правило города о том, что бизнесы должны заранее уведомлять своих работников о изменениях в графике.
Мэр Адамс признал ограничения этого инструмента искусственного интеллекта, отметив, что поскольку это пилотная программа, такие проблемы могут быть выявлены и исправлены. Тем не менее, мэр подтвердил свою приверженность внедрению инновационных технологий в административную систему города, что вполне совпадает с его широким подходом к технологическим решениям для управления городом.
Реакции Бизнес-сообщества
Чат-бот вызвал опасения в бизнес-сообществе относительно его надежности, заставив их бояться юридических действий, если они следуют его советам. Альянс гостиничного бизнеса Нью-Йорка, представляющий тысячи владельцев ресторанов, выразил необходимость в надежном инструменте искусственного интеллекта, который не потребовал бы дополнительной проверки у юристов. Это подчеркивает критическую необходимость точности в решениях, основанных на искусственном интеллекте, предназначенных для упрощения соблюдения регулятивных норм и операционных процессов для бизнеса.
Постоянство недочетов, которые представляет чат-бот в своих ответах, подтверждает необходимость полной оценки и мгновенных изменений в его системе руководства, чтобы избежать возможных юридических рисков для бизнесменов, которые могут следовать за ошибочными советами, не зная об этом.
Основные Проблемы Искусственного Интеллекта
Проблемы чат-бота MyCity являются симптомами более крупных проблем, связанных с технологиями генеративного искусственного интеллекта. Эти платформы, включая такие известные, как ChatGPT, время от времени производят выдуманный или вводящий в заблуждение контент. Зависимость чат-бота от Azure AI от Microsoft вызывает вопросы о приспособляемости такой технологии к предоставлению точного и контекстно соответствующего руководства, особенно в сложном ландшафте муниципальных норм и законов о бизнесе.
Городские чиновники и Microsoft не ответили на технические неполадки, которые привели к ошибочным советам чат-бота, или на конкретные действия, которые будут предприняты для решения этих проблем. Город изменил веб-страницу чат-бота, чтобы предупредить пользователей о возможной нечестности и о том, что они не должны рассматривать ответы чат-бота как замену юридического совета от квалифицированных специалистов.