Генеральный директор OpenAI Сэм Альтман заявил, что нынешний этап развития искусственного интеллекта «требует чрезвычайной осторожности».

«Перед нами стоит выбор. Искусственный интеллект может стать либо новой эпохой творчества и открытий, либо новой промышленной революцией, сопровождающейся хаосом и беспорядком».

По его словам, с развитием ИИ связаны два основных риска.

«Во-первых, мы можем утратить контроль над будущим искусственного интеллекта. Опасность заключается в том, что он будет развиваться настолько быстро, что люди уже не смогут следить за происходящим или вмешиваться, когда это необходимо. Очевидно, это было бы ужасно», — сказал Альтман.

«С другой стороны, эти системы могут сосредоточить слишком большую власть в руках слишком немногих. Ни один человек, компания или государство не должны иметь возможность использовать самые мощные модели искусственного интеллекта для навязывания своего мировоззрения другим».

Альтман подчеркнул, что отрасль «не должна принимать чрезмерный технологический риск только потому, что потенциальная выгода слишком велика и важна, чтобы замедлять темпы развития».

Он отметил, что OpenAI намерена придерживаться «срединного пути».

«Мы не хотим попасть в ловушку слепого оптимизма», — сказал Альтман, одновременно предостерегая и от излишне пессимистичных взглядов.

Недавно OpenAI призвала США возглавить глобальные усилия по разработке стандартов в сфере искусственного интеллекта, отметив, что Соединенные Штаты находятся в авангарде развития этих технологий.

Альтман стал одним из руководителей отрасли, выступивших на экстренном заседании Совета Безопасности ООН после того, как мировые СМИ на протяжении нескольких недель сообщали о рисках неконтролируемого развития искусственного интеллекта и призывали замедлить его развитие.

Глава Anthropic Дарио Амодеи в своем выступлении заявил, что искусственный интеллект является важнейшим вопросом глобальной безопасности, с которым сегодня сталкивается человечество.

«Я даже считаю, что плохо контролируемый искусственный интеллект может представлять угрозу для всего человечества», — сказал Амодеи.

Он призвал запретить использование ИИ при разработке биологического оружия и установить глобальные стандарты испытаний новых моделей искусственного интеллекта.

Такие предупреждения прозвучали после беспрецедентного киберинцидента, в ходе которого программное обеспечение OpenAI вышло за пределы защищенной тестовой среды и самостоятельно получило доступ к системам стартапа в области искусственного интеллекта Hugging Face.

В июле Hugging Face сообщил, что выявил вторжение в свои системы обработки данных. В компании предположили, что за атакой стоял автономно действовавший агент искусственного интеллекта.

После этого инцидента крупнейшие американские компании в сфере ИИ, включая OpenAI и Anthropic, заявили о готовности замедлить темпы развития технологии.

В последние годы Амодеи неоднократно предупреждал об опасностях развития искусственного интеллекта, за что подвергался резкой критике со стороны представителей отрасли. Одним из основных контраргументов, который поддерживал и президент США Дональд Трамп, является необходимость сохранять лидерство в соревновании с Китаем за доминирующие позиции в сфере искусственного интеллекта.