Линки доступности

Илон Маск призвал приостановить разработку более мощных систем ИИ


Илон Маск на церемонии выпуска первых автомобилей на новом заводе Tesla
Илон Маск на церемонии выпуска первых автомобилей на новом заводе Tesla

Гендиректор Tesla и основатель SpaceX Илон Маск вместе с группой экспертов по искусственному интеллекту и руководителей отрасли написал открытое письмо, ссылаясь на риски для общества

Гендиректор Tesla и основатель SpaceX Илон Маск вместе с группой экспертов по искусственному интеллекту и руководителей отрасли написал открытое письмо, ссылаясь на риски для общества

Илон Маск и группа экспертов по искусственному интеллекту и руководителей отрасли в открытом письме, ссылаясь на потенциальные риски для общества, призывают взять шестимесячную паузу в разработке систем, более мощных, чем недавно запущенный OpenAI GPT-4.

Ранее в этом месяце OpenAI при поддержке Microsoft представила четвертую итерацию своей программы AI GPT (Generative Pre-trained Transformer), которая поразила пользователей естественной беседой, сочинением песен и резюмированием длинных документов.

«Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их эффект будет положительным, а риски – управляемыми», – говорится в письме, опубликованном Институтом будущего жизни (Future of Life Institute), который, согласно Реестру прозрачности ЕС, является некоммерческой организацией, в основном финансируемой фондом Маска, а также лондонской группой Founders Pledge и фондом Silicon Valley Community Foundation.

«Должны ли мы позволять машинам наводнять наши информационные каналы пропагандой?… Должны ли мы развивать нечеловеческие умы, которые в конечном итоге могут превзойти нас численностью, перехитрить, сделать нас ненужными и заменить нас?» – спрашивается в письме, где говорится, что «такие решения не должны быть делегированы неизбираемым лидерам технологических компаний».

Письмо подписали более 1 000 человек, включая Маска. Сэм Альтман, исполнительный директор OpenAI, а также Сундар Пичаи и Сатья Наделла, генеральные директора Alphabet и Microsoft письмо не подписали.

Среди подписавших письмо – генеральный директор Stability AI Эмад Мостак, исследователи из принадлежащей Alphabet компании DeepMind, а также выдающиеся специалисты в области ИИ Йошуа Бенгио, которого часто называют одним из «крестных отцов ИИ», и Стюарт Рассел, один из первых исследователей в этой области.

Американские законодатели также задают вопросы о влиянии ChatGPT на национальную безопасность и образование. В понедельник полиция ЕС Европол предупредила о потенциальном использовании системы в попытках фишинга, дезинформации и киберпреступности.

Форум

XS
SM
MD
LG