Для морального виховання. Anthropic та OpenAI залучили релігійних лідерів для обговорення етики ШІ

Anthropic і OpenAI провели зустрічі з представниками кількох релігійних спільнот у США, щоб обговорити етичні принципи для ШІ-моделей . Компанії шукають способи навчити штучний інтелект ухвалювати “правильні” рішення у складних ситуаціях. Про це повідомило видання Gizmodo . У Нью-Йорку відбувся круглий стіл Faith-AI Covenant, у якому взяли участь представники юдейських, індуїстських, сикхських, православних і мормонських організацій. На зустрічі були присутні й представники Anthropic та OpenAI. Раніше Anthropic уже організовувала зустрічі з християнськими лідерами. Тоді компанія заявляла, що хоче отримати поради щодо « духовного розвитку» своєї моделі Claude та планує обговорення і з представниками інших релігій. У матеріалі Associated Press зазначається, що організатором заходу стала швейцарська неурядова організація Interfaith Alliance for Safer Communities. Вона планує провести подібні зустрічі також у Китаї, Кенії та Об'єднаних Арабських Еміратах. Журналісти пишуть, що Anthropic намагається знайти етичні принципи для Claude у ситуаціях, де неможливо прописати чіткі правила, а помилкове рішення може мати серйозні наслідки. У компанії визнають ризик того, що їхні спроби « надати Claude достатньо хороші етичні цінності можуть провалитися». Гендиректорка некомерційної організації Humane Intelligence Румман Чоудхурі заявила AP, що Кремнієва долина раніше помилково вважала, ніби можна створити універсальні етичні принципи для генеративного ШІ. За її словами, тепер компанії звертаються до релігії як до способу працювати з неоднозначними моральними ситуаціями. Водночас Gizmodo зазначає, що Anthropic навряд чи інтегруватиме конкретні релігійні доктрини у Claude. Компанія, ймовірно, лише намагається зібрати загальні моральні принципи та показати, що врахувала різні підходи до етики. Теги:   Anthropic OpenAI Штучний інтелект Релігія Якщо ви знайшли помилку в тексті, виділіть її мишкою і натисніть Ctrl + Enter