Президент США Дональд Трамп не поддержал ограничение темпов разработки систем искусственного интеллекта, несмотря на опасения по поводу их растущих возможностей, высказанные лидерами передовых ИИ-компаний.
«Побеждает тот, кто побеждает в сфере ИИ», – сказал Трамп в воскресенье, во время визита в Ирландию. Он добавил, что США обгоняют своего главного конкурента, Китай в сфере ИИ-разработок.
«Мы можем добавить ограничения. Мы можем сделать одно, другое. Но я думаю, что многие очень негативные силы поднимают этот вопрос», – сказал Трамп.
Белый дом последовательно поддерживал ослабление регулирования искусственного интеллекта из-за опасений того, что подобные меры могут помешать американским компаниям конкурировать с китайскими ИИ-разработчиками.
В понедельник Трамп написал в соцсети Truth Social: «У нас уже есть огромная УГОЛОВНАЯ и РЕГУЛЯТОРНАЯ власть над этими компаниями. Это БОЛЬНОЙ заговор против ИИ и дата-центров, который радует лишь Китай».
Дискуссия вокруг безопасности новейших ИИ-моделей разгорелась на выходных с новой силой после того, как Дарио Амодеи, глава компании Anthropic (создатели продуктов Claude) опубликовал эссе, в котором призвал замедлить темпы разработки систем искусственного интеллекта. Он считает, что человечеству нужно больше времени на то, чтобы обеспечить безопасность ИИ с учетом ускоряющихся темпов его разработки.
Амодеи поддержали Сэм Альтман, глава OpenAI (создатели ChatGPT), а также Илон Маск, лидер Tesla и SpaceX (чатбот Grok). Альтман также заявил о том, что отложит выход на компании биржу на фоне возрастающих рисков в области безопасности.
Никакое конкурентное давление в США не должно оправдывать безрассудство или допускать, чтобы возможности [ИИ] опережали меры по мониторингу и настройке его в соответствии с человеческими ценностями», – написал Альтман в понедельник в соцсети X. Замедление темпов разработки ИИ будет «стоить того».
Амодеи, Альтман и Маск – конкуренты, которые редко соглашаются друг с другом в публичном поле.
OpenAI и Anthropic – крупнейшие игроки на ИИ рынке в США. Ожидается, что на бирже Anthropic и OpenAI оценят в триллионы долларов. SpaceX, космическая компания, которая делает ставку на развитие ИИ, вышла на биржу в июне и оценивается в 2 триллиона долларов.
В своем эссе Амодеи вспомнил о растущих рисках на фоне усиления технологии, которая позволяет искусственному интеллекту улучшать себя («рекурсивное самоулучшение»), а также недавнего инцидента, во время которого тысячи ИИ-агентов взломали поставщика технологий для ИИ HuggingFace.
Амодеи предложил план из трех элементов и сообщил, что его компания в одностороннем порядке собирается пустить в компанию сторонних специалистов для оценки качества защитных механизмов и возможностей новых моделей. По его словам, риски слишком высоки чтобы продолжать развитие технологии прежними темпами без разработки соответствующих систем безопасности.
СМОТРИТЕ ТАКЖЕ:
ИИ-гигант Anthropic: наши технологии могли незаконно использоваться для создания биологического оружияКритики говорят о том, что лидеры ведущих лабораторий призывают зарегулировать отрасль для того, чтобы осложнить конкуренцию с ними для менее крупных компаний, и напоминают, что пугающие предсказания о том, что ИИ способен уничтожить человечество, появлялись и ранее. Кроме того, непонятно, как можно обеспечить такие запреты на мировом уровне, в частности, в Китае.
Амодеи cчитает, что лидерство КНР в этой сфере будет означать «смертельную угрозу для США и для мира».
В МИД КНР заявили, что разработка ИИ должна проходить в открытом и инклюзивном формате. Развитие технологий искусственного интеллекта может стать одной из тем для обсуждения на встрече Трампа с главой КНР Си Цзиньпином в Вашингтоне на следующей неделе.