Миллиардер и владелец компании Tesla Илон Маск, соучредитель Apple Стив Возняк и более тысячи экспертов в сфере высоких технологий и искусственного интеллекта призывают приостановить на шесть месяцев обучение нейросетей из-за рисков для общества. Соответствующее письмо опубликовано на сайте Future of Life Institute («Институт будущего жизни»).
В письме указано, что нейросети, сравнимые по своим интеллектуальным возможностям с человеческими, несут в себе серьёзную опасность для общества.
«Мы должны спросить себя: стоит ли нам позволить машинам заполонить наши информационные каналы пропагандой и ложью? Стоит ли нам автоматизировать все профессии, включая те, что приносят удовлетворение? Стоит ли нам рисковать потерей контроля над цивилизацией?», — задаются вопросами подписанты.
По мнению авторов письма, развитие систем искусственного интеллекта, более мощных чем ChatGPT-4, нужно приостановить минимум на шесть месяцев. В случае, если разработку ИИ нельзя остановить быстро, то нужно привлечь правительства, которые вправе ввести мораторий.
В течение полугодовой паузы разработчики и независимые эксперты должны заняться разработкой протоколов безопасности, которые будут досконально проверять внешние специалисты.
«Мощные системы ИИ должны разрабатываться только тогда, когда мы уверены, что их влияние будет положительным, а риски — управляемыми», — говорится в письме.
Future of Life Institute («Институт будущего жизни») — некоммерческая организация, которая выступает за ответственное и этичное развитие искусственного интеллекта.
ChatGPT-4 — последняя версия чат-бота с искусственным интеллектом, разработанным стартапом OpenAI. К январю 2023 года ChatGPT собрал 100 миллионов ежемесячных активных пользователей. В марте стало известно, что их данные утекли в сеть из-за ошибки в работе искусственного интеллекта. Ошибка была обнаружена в клиентской библиотеке Redis с открытым исходным кодом redis-py.