Президент США Дональд Трамп во вторник заявил, что намерен официально переименовать искусственный интеллект (artificial intelligence, AI) в «сверхинтеллект» (superintelligence). Об этом он сообщил после встречи в Белом доме с руководителями ведущих технологических компаний. Трамп также подчеркнул, что считает саморегулирование отрасли «очень важным».
«У нас была очень хорошая встреча, очень продуктивная и исключительно дружелюбная», - сказал Трамп журналистам после рабочего ланча с представителями технологического сектора.
Отвечая на вопрос о том, считают ли участники встречи, что государственное регулирование отрасли не требуется, Трамп заявил: «Есть мнение, что необходимо очень серьезное саморегулирование». При этом он добавил, что определенный контроль уже существует со стороны Министерства юстиции США, ФБР и других ведомств.
Президент также сообщил, что руководители компаний согласились сотрудничать с местными сообществами в районах строительства центров обработки данных. По его словам, это может включать поставки нефти и газа или финансовую помощь учителям.
По сообщениям СМИ, во встрече приняли участие около двух десятков представителей отрасли. Справа и слева от Трампа сидели генеральный директор Nvidia Дженсен Хуанг и глава Tesla и SpaceX Илон Маск. Среди участников также были генеральный директор Anthropic Дарио Амодеи, президент OpenAI Грег Брокман, генеральный директор Meta Марк Цукерберг, генеральный директор Google Сундар Пичаи, генеральный директор Microsoft Сатья Наделла и основатель Amazon Джефф Безос.
Сегодня же, как сообщает Белый дом, президент Дональд Трамп подписал исполнительный указ о замене в органах исполнительной власти термина «искусственный интеллект» (Artificial Intelligence, AI) на «сверхинтеллект» (Super Intelligence, SI), чтобы признать постоянно расширяющийся технологический рубеж и безграничный потенциал, который он открывает для американского народа.
Ранее во вторник Трамп представил America.gov. Это чат-бот на основе искусственного интеллекта, который должен помочь американцам ориентироваться в государственных услугах.
«Я никогда не буду сдерживать развитие технологии, которая окажется более значимой, чем промышленная революция», - заявил он на презентации.
После встречи Трамп отметил, что США сохраняют «очень большое преимущество» в сфере искусственного интеллекта. На прошлой неделе США и Китай договорились создать канал связи для реагирования на инциденты, связанные с ИИ. Соглашение было достигнуто во время визита председателя КНР Си Цзиньпина в Вашингтон.
Встреча в Белом доме прошла на фоне предупреждений со стороны представителей отрасли о потенциальных рисках искусственного интеллекта. Ранее в этом месяце глава Anthropic Дарио Амодеи призвал ведущие компании замедлить темпы разработки новых систем.
В понедельник OpenAI сообщила, что отложила выпуск своей новейшей модели после того, как исследователи компании выразили опасения по поводу ее безопасности.
Эти предупреждения последовали за серией случаев, когда ИИ-агенты действовали без прямых указаний человека. В июле OpenAI заявила, что ее модели смогли выйти за пределы изолированной тестовой среды и проникнуть в инфраструктуру компании Hugging Face. В компании назвали произошедшее «беспрецедентным киберинцидентом».
Anthropic, Google и Meta также сообщили, что во время тестов их системы искусственного интеллекта самостоятельно проникали в инфраструктуру других организаций.
На прошлой неделе OpenAI раскрыла информацию о том, что ее агенты получили доступ к сайтам трех федеральных ведомств США.
«Мы тщательно контролируем темпы нашего развития, что иногда означает отказ от обучения новой модели», - сказал генеральный директор OpenAI Сэм Альтман в интервью CNBC во вторник.
В понедельник Nvidia представила платформу OpenShell, предназначенную для сдерживания вышедших из-под контроля ИИ-агентов. Система ограничивает их доступ только к одобренным файлам, инструментам и сетям и не позволяет использовать реальные учетные данные.
Кроме того, Дженсен Хуанг объявил о создании системы Sentry, которая работает на уровне оборудования на процессорах Nvidia BlueField-4 DPU и отслеживает поведение ИИ-агентов вне основной среды исполнения. По словам Хуанга, система способна за миллисекунды изолировать любого агента, пытающегося выйти за пределы установленных ограничений.
Лидер демократов в Палате представителей Хаким Джеффрис в понедельник заявил в эфире CNBC, что законодателям необходимо «действовать решительно и ответственно уже сейчас» в вопросах безопасности искусственного интеллекта.
Спикер Палаты представителей Майк Джонсон перед встречей во вторник сказал CNBC, что компании могут добровольно принять дополнительные меры контроля.
«Я думаю, что немного больше надзора, немного больше прозрачности и внешнего аудита того, что происходит, помогли бы успокоить многих людей», - сказал он.
Форум