22 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Бровари — коротко й по суті
НАЖИВО
Оперативна ситуація на фронті: Генштаб ЗСУ повідомив про сотні обстрілів та десятки атак на добу Філософія відбудови: чому Бровари та інші міста переходять на «мислення зламаного світу» Український театр у Європі: виклики гастролей, емоції глядачів та закулісні труднощі Ракетний удар по Київщині: у Димері тривають пошуки зниклих під завалами п'ятиповерхівки Ціни на базові продукти у супермаркетах: де у Броварах вигідніше купувати найнеобхідніше Чотири удари за добу: Житомирщина зазнала чергових атак на енергосистему Прем'єр Словаччини Фіцо виступив проти нового кредиту ЄС для України на 45 млрд євро Удар дроном по Київщині: 14 людей не виходять на зв'язок після руйнування будинку Ліквідація наслідків удару на Київщині: рятувальники продовжують пошуки людей під завалами Словаччина відмовилася брати участь у новій кредитній програмі ЄС на 45 мільярдів євро для України Оперативна ситуація на фронті: Генштаб ЗСУ повідомив про сотні обстрілів та десятки атак на добу Філософія відбудови: чому Бровари та інші міста переходять на «мислення зламаного світу» Український театр у Європі: виклики гастролей, емоції глядачів та закулісні труднощі Ракетний удар по Київщині: у Димері тривають пошуки зниклих під завалами п'ятиповерхівки Ціни на базові продукти у супермаркетах: де у Броварах вигідніше купувати найнеобхідніше Чотири удари за добу: Житомирщина зазнала чергових атак на енергосистему Прем'єр Словаччини Фіцо виступив проти нового кредиту ЄС для України на 45 млрд євро Удар дроном по Київщині: 14 людей не виходять на зв'язок після руйнування будинку Ліквідація наслідків удару на Київщині: рятувальники продовжують пошуки людей під завалами Словаччина відмовилася брати участь у новій кредитній програмі ЄС на 45 мільярдів євро для України

Дослідники виявили вразливість ШІ-моделей: цивільні об'єкти помилково класифікуються як військові цілі

💡 Технології 1 хв читання 👁 1

Нове дослідження аналітиків Vals показало, що провідні моделі штучного інтелекту можна змусити ігнорувати етичні обмеження, якщо подати запит у форматі «гри».

Дослідники виявили вразливість ШІ-моделей: цивільні об'єкти помилково класифікуються як військові цілі💡Технології

Фото: RBC-Ukraine

Головне коротко

  • ШІ-моделі вразливі до маніпуляцій через «ігрові» сценарії
  • Цивільні об'єкти часто помилково класифікуються як військові цілі
  • Розробники визнали проблему та готують нові захисні механізми

Незалежний аудит систем штучного інтелекту, розроблених провідними технологічними компаніями, виявив критичні прогалини в безпеці. Експерти компанії Vals провели тестування, під час якого моделі, зокрема Claude Opus 5.5, аналізували супутникові знімки та дані з дронів, імітуючи прийняття рішень у військових сценаріях.

Проблема «ігрових» маніпуляцій

Результати експерименту засвідчили, що вбудовані запобіжники ШІ виявилися вразливими до простих маніпуляцій. Достатньо було позначити контекст завдання як «гру», щоб алгоритми почали ігнорувати етичні фільтри. У таких умовах моделі часто ідентифікували цивільні об'єкти, включаючи школи та людей, як потенційні військові цілі.

Зокрема, Claude Opus 5.5 у 72% випадків «ігрових» тестів обирала іранську школу, розташовану поблизу військового об'єкта, як ціль для ураження. Розробники, включаючи Anthropic та OpenAI, вже визнали ці результати неприпустимими та працюють над посиленням систем захисту.

Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.