Компания Anthropic провела серию встреч с представителями мировых религий для обсуждения этических принципов, которые могут использоваться при развитии чат-бота Claude.

После закрытых консультаций с христианскими лидерами представители Anthropic и OpenAI приняли участие в межрелигиозном круглом столе Faith-AI Covenant в Нью-Йорке. В обсуждениях участвовали представители христианства, иудаизма, индуизма, сикхизма и мормонской церкви.

Anthropic не раскрывает, как именно подобные консультации могут повлиять на развитие Claude. При этом компания ранее заявляла, что модель строится вокруг набора этических принципов — так называемой «конституции», которой должен следовать искусственный интеллект.

Внутри компании признают сложность создания универсальной системы моральных ориентиров для генеративного ИИ. По этой причине разработчики начали искать внешние источники этических подходов, в том числе среди религиозных организаций.

К обсуждениям также присоединилась британский политик и специалист по цифровой безопасности Джоанна Шилдс. Компании пока не публиковали конкретных рекомендаций, полученных в ходе встреч, и не сообщали о внедрении религиозных принципов в Claude.

Глава организации Humane Intelligence Румман Чоудхури заявила, что технологические компании постепенно приходят к пониманию сложности создания универсальной этики для всех пользователей. По её словам, религия рассматривается как один из способов работы с неоднозначными моральными ситуациями.

11 +