Искусственный интеллект как угроза человечеству  — Илон Маск, Стив Возняк и другие представители технологических гигантов распространяют открытое письмо

Распространяется письмо, подписанное людьми, стоящими в авангарде современного технологического развития, включая основателя Tesla Илона Маска, соучредителя Apple Стива Возняка, соучредителя Skype Яана Таллинна и других. Они требуют остановить разработку искусственного интеллекта до тех пор, пока не будут уверены, что он не представляет угрозы для человечества. Подписанты требуют, чтобы все лаборатории приостановили обучение AI (ИИ) систем как минимум на шесть месяцев.

Различные платформы искусственного интеллекта, такие как чат-бот ChatGPT, становятся все более популярными и становятся частью повседневной жизни людей.

«В последние месяцы лаборатории искусственного интеллекта вовлечены в неконтролируемую гонку за созданием для развития еще более мощного цифрового разума, которые даже его создатели затрудняются понимать, прогнозировать и контролировать. Современные системы ИИ теперь конкурируют с людьми в таких общих задачах, что возникает вопрос, должны ли мы позволять машинам наводнять наши информационные каналы пропагандой и ложью?» — читаем в открытом письме.

Согласно письму, мощные системы ИИ следует разрабатывать только после того, как мы будем уверены, что их эффекты будут положительными, а риски управляемыми.

В начале этого месяца американская технологическая фирма OpenAI запустила новейшую версию своего чат-бота ChatGPT. Чат-бот впервые был запущен в конце прошлого года и стал онлайн-сенсацией. Он может естественно разговаривать, писать песни, эссе и статьи. Способен отвечать на вопросы в человеческой манере и понимать контекст последующих запросов, как это происходит в беседе между людьми. Чат-бот также может признавать свои ошибки или отклонять неуместные запросы. Несмотря на все это, ChatGPT 4 по-прежнему не до конца надежен и может выдумать факты или делать ошибки в суждениях.

О каких рисках идет речь?

В письме подробно описывается, какие риски несет неправильное развитие искусственного интеллекта для общества и цивилизации в целом. По мнению авторов, системы на основе искусственного интеллекта могут вступить в конкуренцию с людьми, что может привести к экономическим и политическим взрывам. В обращении говорится, что есть четыре главных вопроса, на которые должно ответить человечество:

1 Должны ли мы позволять машинам засорять наши информационные каналы пропагандой и ложью?

2 Должны ли мы отдать автоматам всю работу, в том числе ту, что приносит людям удовольствие?

3 Должны ли мы развивать разум нечеловеческого происхождения, который в будущем может превзойти по численности и интеллектуальным способностям человека, сделать нас неполноценными и заместить нас?

4 Должны ли мы рисковать потерей контроля над нашей цивилизацией?

В письме также читаем:

«Мы можем воспользоваться «летом ИИ» и насладиться его щедротами, работая с этими системами так, чтобы это приносило пользу всем, и давая обществу возможность адаптации. Человечество остановило и другие потенциально катастрофические технологии. Давайте насладимся долгим летом интеллекта и не встретим осень неподготовленными».

Источник: standard.co.uk