Илон Маск, Стив Возняк и более тысячи других экспертов в области искусственного интеллекта и IT-индустрии объединились, чтобы призвать к введению полугодового моратория на обучение ИИ-систем, которые превосходят в производительности недавно представленную модель GPT-4 компании OpenAI.
Они выразили свою озабоченность потенциальными рисками для общества, связанными с разработкой ИИ, и призвали к разработке общих протоколов и стандартов безопасности, которые должны быть проверены независимыми аудиторами, прежде чем мощные ИИ-системы будут разработаны.
В письме подчеркивается, что разработка ИИ-систем должна происходить только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме отмечается, что способность ИИ-систем конкурировать с людьми может представлять угрозу для общества и цивилизации, что может привести к экономическим и политическим потрясениям. Разработчики ИИ-систем вызываются к тесному сотрудничеству с регуляторами.
После того, как Европол выразил свою озабоченность возможностью злоупотребления злоумышленниками ИИ-системами, такими как ChatGPT, которые могут быть использованы для фишинга, дезинформации и киберпреступлений, к группе обеспокоенных развитием ИИ присоединилось еще больше людей. Однако, компания Tesla, которая уже давно использует элементы искусственного интеллекта в своих системах автопилота, не отказывается от применения этой технологии. Илон Маск, глава компании, выражал обеспокоенность опасностью ИИ-систем.