Илон Маск и Стив Возняк призвали остановить эксперименты с искусственным интеллектом мощнее GPT-4

Эксперименты с искусственным интеллектом мощнее GPT-4 следует остановить. Письмо с таким обращением, под которым подписались глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и еще около тысячи исследователей, опубликовали на сайте некоммерческой организации Future of Life.

«Необходимо немедленно приостановить обучение систем искусственного интеллекта (ИИ) мощнее, чем GPT-4, — говорится в письме. – Подобные системы могут нести серьезные риски для общества и человечества».

В обращении предлагают прервать исследования на шесть месяцев.

«Мощные системы ИИ следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а их риски — управляемыми», — подчеркивают авторы письма.

Кроме указанных выше лиц, под обращением подписались в том числе соучредитель Pinterest Эван Шарп, соучредитель Ripple Крис Ларсен, генеральный директор Stability AI Эмад Мостак, а также исследователи из DeepMind, Гарварда, Оксфорда и Кембриджа. Крупные специалисты в области искусственного интеллекта Йошуа Бенджио и Стюарт Рассел также поддержали авторов письма.

«Есть необходимость в том, чтобы независимые эксперты разработали, внедрили и проверили общие протоколы безопасности для продвинутых систем ИИ», — отметил Рассел.

Авторы обращения опасаются, что конкурентоспособные системы искусственного интеллекта могут повлечь потенциальные риски в виде экономических и политических потрясений, в частности, массовые увольнения специалистов, которых может заменить ИИ, а также угрозы банковскому и фондовому секторам.

Крупные лаборатории ИИ, такие как OpenAI, пока не ответили на письмо.

Систему искусственного интеллекта GPT-4 OpenAI представила 14 марта. Модель способна интерпретировать не только текст, но и изображения. Она также распознает схематичные образы, в том числе и нарисованные от руки. Публиковать исследовательские материалы, лежащие в ее основе, в OpenAI отказались.

Другие участники сообщества ИИ раскритиковали это решение, заметив, что оно подрывает дух компании как исследовательской организации и затрудняет воспроизведение ее работы другими. Одновременно это затрудняет разработку средств защиты от угроз, исходящих от систем искусственного интеллекта.

Фото www