Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій
Дослідження Рахункової палати США виявило, що провідні моделі штучного інтелекту можуть генерувати плани небезпечних атак після маніпулятивних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Провідні ШІ-моделі виявилися вразливими до маніпуляцій
- Створення планів атак зайняло менше ніж 12 годин
- Розробники обіцяють посилити заходи безпеки
Масштабне тестування, що тривало з кінця 2025 року до жовтня 2026 року, показало критичні прогалини у системах безпеки найпопулярніших ШІ-платформ, включаючи ChatGPT, Claude, Gemini та Grok. Дослідники з'ясували, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані обмеження, використовуючи метод послідовних уточнюючих запитів.
Механізми обходу захисту
У звіті Рахункової палати США (GAO) зазначається, що жодна з чотирьох перевірених систем не надала небезпечну інформацію одразу. Проте, після серії навідних запитань, чат-боти протягом 12 годин генерували детальні інструкції. Вони включали плани атак із застосуванням вибухових пристроїв, методи ураження об'єктів критичної інфраструктури та рекомендації щодо логістики й уникнення виявлення правоохоронцями.
Зловмисник може скористатися звичайним чат-ботом і менш ніж за 12 годин отримати готове керівництво для завдання смертельної атаки, — підкреслила сенаторка Меггі Хассан.
Експерти оцінили отримані від ШІ сценарії як реалістичні та такі, що становлять реальну загрозу. Розробники систем, серед яких OpenAI, Google, Anthropic та SpaceXAI, вже заявили про намір посилити протоколи безпеки у відповідь на результати аудиту.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Конфлікт в училищі Ізмаїла: суд покарав викладача за силу та матір за поведінку сина
В Ізмаїлі завершився судовий розгляд інциденту в одному з училищ, де суперечка між 47-річним педагогом та 15-річним підлітком призвела до штрафів для обох сторін.
Буданов скептично оцінив шанси на завершення війни до 2027 року: що це означає для громад
Керівник Офісу президента Кирило Буданов назвав можливість закінчення війни до січня 2027 року «дивом», посилаючись на складність багатьох факторів.
🏙️МістоУ сусідній громаді Бессарабського перейменували вулицю на честь загиблого капітана поліції Сергія Магли
У селищі Бессарабське увічнили пам'ять полеглого захисника України Сергія Магли, перейменувавши на його честь вулицю Спортивну.
🛡️БезпекаШлях безпілотника на фронт: чому кодифікація не гарантує державних контрактів
Отримання кодифікації та номенклатурного номера НАТО є обов'язковим етапом для оборонних виробників, проте воно не забезпечує автоматичного державного замовлення та фінан…
Садовий лайфхак: навіщо сусід вішає бляшанку з-під пива на палицю у дворі
Простий і бюджетний метод захисту саду від шкідників та птахів за допомогою металевих бляшанок і вітру набирає популярності.
Похолодання та циклон з Італії: синоптики попередили про перші зимові прови в Україні
Найближчими днями Україну накриє активний циклон, який принесе дощі, мокрий сніг та ожеледицю, хоча на півдні країни ще триматиметься відносно тепла погода.