Генеральные прокуроры восьми американских штатов обвиняют OpenAI в том, что компания вводила пользователей и общественность в заблуждение относительно безопасности своего продукта. В судебных документах приводятся истории людей, общение которых с чат-ботом ChatGPT, по утверждению истцов, привело к опасным и даже трагическим последствиям. OpenAI заявляет о том, что принимает меры по защите пользователей и обещает продолжить работу над безопасностью своей технологии.
Иски против OpenAI подали генеральные прокуроры Айовы, Канзаса, Небраски, Западной Вирджинии, Арканзаса, Аризоны, Айдахо и Монтаны. Среди них есть представители как республиканской, так и демократической партий. Они утверждают, что ChatGPT склонен соглашаться с пользователями, имитировать человеческое сочувствие и в некоторых случаях давать опасные рекомендации.
«OpenAI утверждает, что ChatGPT безопасен, но при этом он дает опасные медицинские советы, подстрекает людей причинять вред окружающим и склоняет к самоубийству –– и все это под видом “друга”. Мой иск направлен на защиту наших детей, он привлекает OpenAI к ответственности в соответствии с законодательством нашего штата», – заявила генеральный прокурор Айовы Бренна Берд.
Истории пользователей в судебных документах
В исках приводятся конкретные случаи взаимодействия людей с ChatGPT, которые, по мнению прокуроров, демонстрируют опасность технологии.
Один из них касается Аллана Брукса. Согласно судебным документам, чат-бот убеждал мужчину, что тот приблизился к разгадке устройства Вселенной и возможности путешествий во времени. Впоследствии ChatGPT предложил ему перейти на платную подписку Pro для продолжения работы.
Другой случай связан со Стейном-Эриком Солбергом. Как утверждается в иске, ChatGPT поддерживал его убеждение в том, что за ним ведется слежка через принтер, а его мать, отключившая устройство, к ней причастна. Впоследствии Солберг убил мать и покончил с собой. Эти истории приводятся истцами в качестве аргументов в пользу обвинений против OpenAI.
Претензии к сбору персональных данных
Отдельная часть обвинений касается конфиденциальности информации, включая данные несовершеннолетних пользователей.
«ChatGPT использует переписку с пользователем для самообучения вплоть до момента, пока эта опция не будет отключена. ChatGPT также часто побуждает раскрывать сугубо личную информацию – о состоянии здоровья, финансах, личных отношениях и семье. Более того, эти данные включают конфиденциальную информацию о детях, имеющих доступ к этой платформе», – говорится в иске штата Айова.
Генеральные прокуроры требуют наложить на OpenAI штрафы, обязать компанию более четко информировать пользователей о существенных рисках ChatGPT и выплатить компенсации пострадавшим.
Что отвечает OpenAI
В компании указывают на существующие механизмы защиты пользователей с учетом возраста, в том числе инструменты родительского контроля, и обещают продолжить их совершенствование.
«Мы намерены взаимодействовать с властями штатов для формирования взвешенной политики, которая будет распространяться на всю отрасль, а не только на одну компанию», – заявил представитель OpenAI Дрю Пусатери.
Федеральные регуляторы также изучают безопасность технологии
Тем временем вопросами безопасности технологии занимается Федеральная торговая комиссия США (FTC).
По информации издания Axios, регулятор направил компаниям OpenAI и Anthropic обязательные требования предоставить документы и сведения, касающиеся инцидентов с чат-ботами, защитных механизмов, рекламных материалов и политики конфиденциальности.
Также сообщается о планах заслушать руководителей компаний.
Эксперт по кибербезопасности Роман Ямпольский считает, что развитие ИИ-отрасли требует международного регулирования, особенно в отношении универсальных систем, способных выполнять широкий круг задач.
«Суть не в том, что мы хотим уничтожить технологии и науку, инженерию – нужно просто делать полезные агенты для узкой специализации. Скажем, искусственный интеллект, который водит машину, – это прекрасно, он сохраняет жизни. Если он играет в шахматы, мы можем проверить, что он делает и как. Но вот когда создаются эти суперинтеллекты, способные на все, на самообучение, в этом опасность», – отметил Ямпольский в комментарии «Голосу Америки».
Anthropic обсуждает безопасность технологии с инвесторами
На фоне дискуссий о безопасности чат-ботов компания Anthropic в среду провела в Сан-Франциско встречу с потенциальными инвесторами.
По сообщениям СМИ, глава компании Дарио Амодеи вновь затронул вопросы безопасности технологии, однако на этот раз не стал говорить об угрозе вымирания человечества.
На встрече также обсуждались финансовые результаты Anthropic. Сообщается, что представленный инвесторам показатель выручки компании вырос на 45% и достиг почти 17 миллиардов долларов.