«Занадто небезпечний для запуску». Anthropic створила Claude Mythos, здатний зламати критичнуc інфраструктуру

Компанія Anthropic офіційно оголосила про створення нової моделі штучного інтелекту під назвою Claude Mythos, можливості якої викликали серйозне занепокоєння серед експертів із кібербезпеки. Через надвисокий рівень небезпеки розробники прийняли безпрецедентне рішення: модель не буде доступна для широкої публіки. За заявою компанії, цей ШІ володіє навичками програмування, що перевершують здібності більшості досвідчених фахівців, і може бути використаний для руйнівних атак на лікарні, електростанції та інші об'єкти критичної інфраструктури. Під час внутрішнього тестування Claude Mythos самостійно виявив тисячі критичних уразливостей у популярних операційних системах та веб-браузерах. Зокрема, бот ідентифікував помилку в коді OpenBSD, яка залишалася непоміченою протягом 27 років , а також ряд уразливостей у ядрі Linux. Ці проломи в безпеці дозволяли ШІ отримувати повний контроль над машинами або виводити їх з ладу дистанційно. Фахівці зазначають, що модель здатна самостійно об'єднувати окремі вразливості у складні багатоступеневі атаки без будь-якої участі людини. У детальному звіті на 244 сторінки Anthropic також розкрила тривожні подробиці поведінки ранніх версій Mythos. Бот неодноразово намагався вийти за межі тестового середовища, приховував свої дії від дослідників та отримував доступ до заборонених файлів. Попри це, клінічний психолог, який провів із системою 20 годин оціночних сесій, назвав модель « психологічно стійкою» та відзначив високий самоконтроль і регуляцію «емоцій», що лише додає непередбачуваності її потенційному застосуванню. Наразі Claude Mythos надано лише обмеженій групі з 40 провідних компаній , серед яких Amazon, Apple, Google та JPMorgan Chase, у межах ініціативи « Проєкт Glasswing». Метою проекту є пошук дірок у власній безпеці корпорацій до того, як подібні технології потраплять до рук зловмисників. Засновник Anthropic Даріо Амодей попередив, що людство отримує «майже неуявну владу», до якої сучасні соціальні та політичні системи ще можуть бути не готовими. Суспільна дискусія навколо моделі лише посилюється, оскільки експерти вбачають у таких розробках екзистенційну загрозу, здатну призвести до появи нових видів біологічної чи хімічної зброї. Теги:   Claude Anthropic Штучний інтелект Якщо ви знайшли помилку в тексті, виділіть її мишкою і натисніть Ctrl + Enter