РИМ – Сооснователь Anthropic Крис Олah заявил в понедельник, 25 мая, что развитие искусственного интеллекта нельзя оставлять исключительно на усмотрение технологических компаний, призвав к усиленному надзору со стороны религиозных лидеров, правительств и гражданского общества.

Выступая на презентации первой энциклики Папы Льва об искусственном интеллекте, Олah сказал, что существует «реальная вероятность» того, что ИИ вытеснит человеческий труд «в очень большом масштабе».

«Если это произойдёт, поддержка пострадавших станет моральным императивом исторического масштаба», — сказал он, сидя рядом с папой.

Он добавил, что такие компании, как его, работают под сильным коммерческим, геополитическим и личным давлением, которое может вступать в противоречие с более широкими интересами общества.

«Каждая ведущая лаборатория ИИ … работает в условиях набора стимулов и ограничений, которые порой могут вступать в конфликт с правильными действиями», — сказал он, добавив, что даже хорошо намеренные исследователи остаются под влиянием этих сил.

Олah сказал, что это делает внешний контроль необходимым.

Anthropic — американская компания, создающая инструменты ИИ Claude. Она вступила в конфликт с администрацией президента Дональда Трампа, в частности настаивая на ограничениях использования своих моделей в военных целях, таких как автономное наведение оружия или внутренняя слежка.

Олah приветствовал вовлечённость Церкви в работу с быстро развивающимися технологиями, отметив, что этические вопросы, поднимаемые ИИ, выходят далеко за рамки инженерии.

«Вопросы, поднимаемые ИИ, шире, чем сообщество исследователей ИИ», — сказал он и призвал к появлению «искренних, вдумчивых критиков», способных бросать вызов компаниям и помогать направлять создание мощных новых систем в позитивном направлении.

Олah выделил три области, требующие срочного внимания: риск массовых потерь рабочих мест, необходимость обеспечить распространение преимуществ ИИ по всему миру и нерешённый вопрос о том, как интерпретировать всё более сложное и порой непрозрачное поведение систем.

«Развитие ИИ сосредоточено в горстке богатых стран. Как мы можем обеспечить, чтобы плоды ИИ были распределены глобально?» — сказал Олah.

Событие понедельника ознаменовало необычное сближение технологического сектора и Католической церкви, которая стремится позиционировать себя как моральный голос в вопросе последствий стремительного развития ИИ. – Rappler.com