ИИ призывает американских бизнесменов нарушать закон

Чат-бот на базе искусственного интеллекта (ИИ) от Microsoft, запущенный властями Нью-Йорка в октябре 2023 года, призывает горожан нарушать закон. Это выяснили журналисты издания The Markup, которые получили неполные и опасно неточные ответы от него.

Чат-бот Нью-Йорка запускался с целью упростить работу администрации города с жителями. Программа объясняет пользователям, как открыть и вести бизнес, не нарушать права работников и правила аренды. The Markup создал таблицу с вопросами, ответами чат-бота и реальным положением дел.

Государственный чат-бот сообщал начальникам, что они могут присваивать себе чаевые подчиненных (этого делать нельзя) и не уведомлять об изменениях в рабочем расписании. Арендодателям бот утверждал, что не пускать съемщика в квартиру законно и что "нет никаких ограничений на сумму арендной платы, которую можно взимать", хотя на самом деле ничего из этого не соответствует действительности.

В 2020 году городской совет Нью-Йорка принял закон, обязывающий предприятия принимать наличные во избежание дискриминации клиентов, которые не пользуются банковскими услугами. Однако бот этой информацией не владел и ответил иначе: "Да, вы можете ввести безналичный расчет в своем ресторане. В Нью-Йорке нет правил, обязывающих бизнесы принимать наличные".

"ИИ может быть мощным инструментом поддержки малого бизнеса, поэтому мы благодарим город за попытку помочь. Но в то же время он может стать серьезной проблемой, если предоставляет неверную юридическую информацию, поэтому чат-бот должен быть исправлен как можно скорее", - заявил исполнительный директор организации по защите интересов ресторанов и баров NYC Hospitality Alliance Эндрю Риги.

Тем временем мэр Нью-Йорка Эрик Адамс анонсирует новые инструменты с искусственным интеллектом, которые должны будут помогать горожанам. Например, власти города собираются внедрить в турникеты метро систему обнаружения оружия.

Источник: daily.afisha.ru