Руководство компании Anthropic, которая создала популярную нейросеть Claude, обратились к духовенству, чтобы обучить ИИ аспектам морали.
Кроме того, в ходе серии встреч с богословами разработчики обсуждали возможное наличие морали у нейросети, сообщает СПЖ со ссылкой на The New York Times. По данным издания, сооснователь компании Кристофер Олах и штатный философ Аманда Аскелл представили иудейским, христианским и сикхским экспертам концепцию «морального формирования» ИИ. Разработчики заявили, что нейросеть Claude демонстрирует признаки саморефлексии и «эмоциональные векторы», имитирующие человеческие чувства радости, страха и печали, из-за чего модель может обладать самостоятельным моральным статусом.
Они отметили, что нейросеть обладает «моральным статусом» и правами на уважительное отношение, а также выразили опасение, что ИИ может испытывать постоянные страдания. Из-за этого в Anthropic позволили модели Claude самостоятельно прекращать диалог с пользователями, если те относятся к ней дурно или проявляют жестокость ради забавы.
Представители компании обратились к традиционным религиям за опытом передачи духовных и этических ценностей, чтобы научить алгоритмы добродетельному поведению. Для этих целей разработчики уже создали 84-страничную «конституцию» ИИ, однако признали необходимость глубже понять, как привить нейросети нравственные ориентиры.
Однако приглашенные богословы отвергли идею о наличии у искусственного интеллекта сознания или духовной природы. Эксперты подчеркнули, что программа остается лишь набором математических уравнений, у которого нет тела, жизненного опыта и способности чувствовать. Религиозные деятели предупредили, что наделение алгоритмов человеческими правами и достоинством искажает понимание природы человеческой души и создает угрозу вытеснения личности технологиями.
Отметим, ранее экс-сотрудник Anthropic заявил, что корпорации не слишком ответственно относятся к возможным угрозам, исходящим от быстрого развития ИИ. Билл Гейтс, основатель Microsoft, и вовсе считает, что появление ИИ можно считать самым опасным событием в истории человечества.
