Духовний розвиток. Anthropic зібрала християнських мислителів, щоб обговорити мораль свого ШІ Claude

Компанія Anthropic провела закритий саміт із 15 християнами, щоб обговорити моральні принципи та «духовний розвиток» свого ШІ Claude. Учасники радили, як зробити поведінку системи етичною та відповідальною. Компанія Anthropic, яку очолює співзасновник і CEO Даріо Амодеї, звертається до різних підходів до моралі. Його погляди частково сформовані ідеєю ефективного альтруїзму, що передбачає допомогу іншим як пріоритет. Назва компанії походить від слова « misanthropic» без префікса « mis-», що натякає на орієнтацію на людину. Наприкінці березня компанія провела у своєму офісі в Сан-Франциско дводенний саміт, на який запросила 15 відомих християн. Вони зустрічалися з дослідниками Anthropic і брали участь у спільній вечері. За словами учасників, команда компанії просила поради щодо моральних принципів Claude і навіть його « духовного розвитку». Один з учасників, викладач етики штучного інтелекту Браян Патрік Грін, розповів, що під час зустрічі обговорювали, чи можна вважати Claude « дитиною Бога». Також йшлося про те, як формувати моральні якості системи і як забезпечити її належну поведінку. Учасник саміту, католицький священник Брендан Макгвайр, який раніше працював у технологічній сфері, сказав, що компанія створює продукт, кінцевий результат якого ще не до кінця зрозумілий. Він додав, що важливо закласти в систему етичне мислення, щоб вона могла адаптуватися до різних ситуацій. За інформацією видання, до обговорень активно долучалися дослідники, які вивчають, як працюють моделі штучного інтелекту. Вони також порушували питання можливого « усвідомлення» ШІ, що є складною філософською темою. Представник Anthropic заявив, що компанія планує залучати до подібних обговорень представників інших релігій і світоглядних груп. Теги:   Anthropic Claude Штучний інтелект Мораль Християнство Якщо ви знайшли помилку в тексті, виділіть її мишкою і натисніть Ctrl + Enter