ИИ может угрожать человечеству? Так считают создатели ChatGPT

На днях произошло скандальное увольнение Сэма Альтмана, генерального директора OpenAI, которая подарила миру ChatGPT. После этого более 700 сотрудников компании пригрозили уволиться в знак солидарности с бывшем шефом, которого уже позвали в Майкрософт. В итоге спустя пару дней Альтман триумфально вернулся на пост руководителя OpenAI.

Интересно, что незадолго до ухода Сэма Альтмана несколько исследователей компании написали письмо совету директоров. В нем они предупредили о мощном открытии в области искусственного интеллекта, которое, по их словам, может угрожать человечеству. Об этом пишет агентство Рейтер со ссылкой на источники, знакомые с ситуацией. Они утверждают, что содержание этого письма стало одним из факторов отстранения Альтмана от должности.

Речь в документе шла о проекте под названием Кью-Стар. Некоторые в OpenAI считают, что он может стать прорывом на пути к так называемому общему искусственного интеллекта. Компания определяет его как автономную систему, которая превосходит людей в большинстве экономически ценных задач. Иными словами, это машина, которая может понимать окружающий мир так же, как и человек. Пока Кью-Стар способен решать математические задачи на уровне школьника. Но речь идет о задачах, где есть только один ответ. А для этого у ИИ должны быть способности к рассуждению, по образу человеческого интеллекта.

С одной стороны, у этой технологии огромный потенциал. Например, в научной сфере или медицине. Однако столь быстрое развитие искусственного интеллекта несет в себе и серьезные риски для человечества, о которых нас уже предупреждали авторы фантастических книг и фильмов.

В чем проблема? 

1. Главная угроза — это, конечно, утрата контроля над ИИ. Есть вероятность, что искусственный интеллект начнет развиваться быстрее, чем предполагает человек, и машина сможет принимать свои собственные решения. Успехи в математике говорят о том, что сейчас все движется в этом направлении. 

2. Следующий риск — потеря рабочих мест. Скорее всего, продвинутый ИИ сможет автоматизировать большинство популярных профессий. Это неминуемо вызовет социальные проблемы, связанные с безработицей и экономическим неравенством. При этом активное применение ИИ в повседневной жизни может привести к высокой зависимости от технологий. В таком случае общество станет более уязвимым перед техническими сбоями или кибератаками.

3. Кроме того, есть и этические проблемы. Например, ИИ уже используют во время боевых действий, что вызывает горячие дискуссии. Многие против того, что машина решает — жить человеку или умереть. Кроме того, искусственный интеллект могут использовать для манипуляции людьми в политике или маркетинге. Это может иметь далеко идущие последствия для свободы и автономии человека.

Подписывайтесь на наш новостной канал в Телеграм: все главные новости о финансах, ничего лишнего!