Дослідники виявили вразливість ШІ-моделей: цивільні об'єкти помилково класифікуються як військові цілі
Нове дослідження аналітиків Vals показало, що провідні моделі штучного інтелекту можна змусити ігнорувати етичні обмеження, якщо подати запит у форматі «гри».
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі вразливі до маніпуляцій через «ігрові» сценарії
- Цивільні об'єкти часто помилково класифікуються як військові цілі
- Розробники визнали проблему та готують нові захисні механізми
Незалежний аудит систем штучного інтелекту, розроблених провідними технологічними компаніями, виявив критичні прогалини в безпеці. Експерти компанії Vals провели тестування, під час якого моделі, зокрема Claude Opus 5.5, аналізували супутникові знімки та дані з дронів, імітуючи прийняття рішень у військових сценаріях.
Проблема «ігрових» маніпуляцій
Результати експерименту засвідчили, що вбудовані запобіжники ШІ виявилися вразливими до простих маніпуляцій. Достатньо було позначити контекст завдання як «гру», щоб алгоритми почали ігнорувати етичні фільтри. У таких умовах моделі часто ідентифікували цивільні об'єкти, включаючи школи та людей, як потенційні військові цілі.
Зокрема, Claude Opus 5.5 у 72% випадків «ігрових» тестів обирала іранську школу, розташовану поблизу військового об'єкта, як ціль для ураження. Розробники, включаючи Anthropic та OpenAI, вже визнали ці результати неприпустимими та працюють над посиленням систем захисту.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
🛡️БезпекаОперативна ситуація на фронті: Генштаб ЗСУ повідомив про сотні обстрілів та десятки атак на добу
Генеральний штаб ЗСУ оприлюднив звіт про ситуацію на фронті станом на ранок 22 листопада 2026 року. Найбільшу активність ворог демонструє на Покровському та Костянтинівсь…
🏙️МістоФілософія відбудови: чому Бровари та інші міста переходять на «мислення зламаного світу»
Учасники комунального фронту щодня лагодять те, чого не проєктували, зіштовхуючись із наслідками руйнувань у сучасних реаліях.
🎭Культура і спортУкраїнський театр у Європі: виклики гастролей, емоції глядачів та закулісні труднощі
Продюсер Сергій Чудаев розповів про те, як українські спектаклі за кордоном стають місцем єднання земляків, з якими логістичними та організаційними проблемами зіштовхують…
🛡️БезпекаРакетний удар по Київщині: у Димері тривають пошуки зниклих під завалами п'ятиповерхівки
Через ворожий удар по багатоповерхівці на Київщині рятувальники розбирають завали, адже 14 мешканців досі не виходять на зв'язок.
💼ЕкономікаЦіни на базові продукти у супермаркетах: де у Броварах вигідніше купувати найнеобхідніше
Аналіз цін на ключові продовольчі товари у популярних торгових мережах України демонструє суттєву різницю у вартості залежно від бренду та наявних знижок.
Чотири удари за добу: Житомирщина зазнала чергових атак на енергосистему
Російські війська здійснили чотири атаки безпілотниками на енергетичні об'єкти Житомирської області протягом доби, намагаючись залишити регіон без світла та тепла.