Главный учёный OpenAI призвал индустрию к «чрезвычайной осторожности» из-за рисков ИИ

Главный научный сотрудник OpenAI Якуб Пачоцки выступил с предупреждением об опасности слишком быстрого развития искусственного интеллекта, сообщает Bloomberg.

По его словам, технология развивается настолько стремительно, что её становится всё сложнее понимать и контролировать. Он ожидает, что лаборатории по разработке ИИ добровольно приостановят темпы работы, пока не будут установлены общие стандарты безопасности.

В своём посте на сайте OpenAI Пачоцки отметил, что современные ИИ-модели уже способны управлять компьютерами, сотрудничать с людьми и другими системами, а также выполнять научные исследования. Он подчеркнул, что вскоре они смогут самостоятельно совершенствоваться без участия человека через процесс, известный как рекурсивное самосовершенствование.

«Сейчас настало время, когда следует проявлять чрезвычайную осторожность. Меня беспокоит, что никто не готов к последствиям дальнейшего стремительного развития искусственного интеллекта», — написал Пачоцки.

Учёный считает, что у разработчиков есть два варианта: пытаться направить развитие ИИ так, чтобы он максимально соответствовал человеческим интересам, либо замедлить работу над ним. Пачоцки выразил надежду, что добровольные паузы станут распространённой практикой, пока не будут определены чёткие границы безопасности.

Его позиция согласуется с прежними предостережениями других специалистов отрасли. Генеральный директор Anthropic Дарио Амодей ранее заявлял, что передовые ИИ-модели нужно регулировать так же жёстко, как самолёты, автомобили или лекарства. Руководитель OpenAI Сэм Альтман также делал подобные заявления, но недавно отметил, что индустрия недостаточно объясняет обществу потенциальные преимущества технологии.