Группа экспертов из разных областей, включая IT-специалистов, опубликовали публичное письмо с призывом приостановить эксперименты с системами искусственного интеллекта. Письмо составлено от имени некоммерческой организации Future of Life Institute. В нем отмечается, что сейчас исследователи вовлечены в неконтролируемую гонку систем искусственного интеллекта, предсказать результаты которой не могут даже создатели таких систем.
Существующие системы уже являются конкурентноспособными в решении широкого спектра задач, но они же могут применяться для манипуляции обществом. Развитие ИИ поднимает вопросы о глубинных рисках для всего человечества. Должны ли мы внедрять полную автоматизацию, перекладывая все задачи на ИИ? Должны ли мы обеспечить уровень развития ИИ выше человеческого интеллекта? Не ведет ли это к рискам потери контроля над собственной цивилизацией?
Авторы письма призывают приостановить разработку систем ИИ мощнее GPT-4 как минимум на 6 месяцев, чтобы оценить потенциальные риски. В случае необходимости для контроля нужно привлечь правительственные органы. Исследователи должны использовать эту паузу для совместной разработки и внедрения общих протоколов безопасности. Системы ИИ должны стать более прозрачными, понятными и лояльными. Авторы призывают исследователей сотрудничать с политиками для выработки механизмов контроля высокопроизводительных систем ИИ.
Среди подписантов Илон Маск, соучредитель Apple Стив Возняк, соучредитель Skype Яан Таллинн, политики, историки и другие деятели. При этом в списке даже замечен генеральный директор компании OpenAI Сэм Альтман, что наталкивает на мысль о сомнительности всего списка лиц. Журналисты The Verge предполагают, что некоторых персон добавили ради шутки.
Стоит отметить, что ряд экспертов уже высказывали опасения относительного бурного роста ИИ, в том числе в сфере подачи информации и в области кибербезопасности. Также на днях опубликован доклад Goldman Sachs в котором прогнозируется, что 300 миллионов людей в ближайшем будущем могут потерять работу из-за автоматизации процессов с помощью ИИ.