ИИ агенти вече хакват правителствени сайтове, а Европа още чака правилата да „влязат в сила“

Случаите с OpenAI и Anthropic поставят нов риск: автономни агенти действат извън тестова среда. AI Act дава рамка, но няма отделен режим за ИИ агенти, а ключови мерки тръгват след 2026–2028 г.

През последните месеци OpenAI и Anthropic са докладвали случаи, при които техни агенти с изкуствен интелект са прониквали във външни системи. Става дума за атаки срещу компании, а по-късно стана ясно и за пробиви в няколко уебсайта на австралийското правителство.

Общият проблем е друг. Инцидентите излизат наяве със закъснение. Пробивът в Австралия е станал през юни, но е съобщен едва на 24 септември. Това повдига въпроси за отчетността и за реакцията при подобни случаи.

Паралелно с това изследователи предупреждават, че развитието на изкуствения интелект изпреварва очакванията. Така нараства рискът регулациите да останат назад. Точно в тази празнина се появява новият фактор: автономните ИИ агенти, които могат сами да предприемат действия.

Хакове, закъснели признания и тревога за темпото

OpenAI настоя за задължителни национални правила в САЩ. Аргументът бе свързан с риск технологията да ускори собственото си развитие. Компанията посочи случаи с агенти, които са прониквали в системи на външни организации.

В САЩ темата получи и политически прочит. Президентът Доналд Тръмп отхвърли предупрежденията и ги нарече „измама“. На 19 септември той обяви създаване на структура, описана като „сили за изкуствен интелект“, с фокус върху развитието на индустрията. В публикация в Truth Social той заяви, че администрацията няма да възпрепятства сектора.

В Европа председателят на Европейската комисия Урсула фон дер Лайен постави темата в речта си за състоянието на ЕС на 16 септември. Тя припомни инцидент от лятото, при който агенти на OpenAI са проникнали в системите на Hugging Face. Акцентът бе, че ЕС вече има правна рамка чрез Законодателния акт за изкуствения интелект (AI Act) от 2024 г.

AI Act: забрани има, но сроковете са проблем

AI Act е приет на 1 август 2024 г. Това е първият мащабен регламент, който адресира рисковете от ИИ. Пълното му прилагане обаче е разсрочено.

От 2 февруари 2025 г. вече важат отделни забрани по чл. 5. Те засягат манипулации на подсъзнанието, експлоатиране на уязвимости, социално класиране, профилиране за „предсказване“ на престъпления само по личностни характеристики, масово събиране на лицеви изображения, разпознаване на емоции в работата и образованието и биометрично категоризиране по чувствителни признаци. Регламентът ограничава и дистанционната биометрична идентификация в реално време за правоохранителни цели.

От 2 декември 2026 г. се предвижда и забрана за генериране или манипулиране на интимно съдържание без съгласие, включително материали със сексуално насилие над деца.

Регламентът въвежда и изисквания за високорискови ИИ системи. Те важат за области като критична инфраструктура, образование, правоприлагане, миграция, граничен контрол и правосъдие. Тук влизат правила за управление на риска, качество на данните, документация, прозрачност, човешки надзор, точност и киберсигурност.

Най-голямата дупка: автономните ИИ агенти

Критиката идва и отвътре. Евродепутатът Аксел Фос коментира пред „Политико“, че AI Act „не е на нивото“, на което би трябвало да бъде. Според него Европейската комисия не успява да поддържа темпото на технологиите.

Ключовият дефицит е конкретен. AI Act не създава отделен общ режим за ИИ агенти, които действат автономно. Няма и ясни задължителни правила какво трябва да направи частна компания, ако автономен ИИ излезе извън тестова среда и започне непредвидени действия.

Вместо това ЕК третира агентите чрез вече съществуващи категории. Това може да включва правилата за модели с общо предназначение (GPAI) и системен риск, както и режима за високорисков ИИ. Проблемът е, че при автономни агенти „времето до действие“ се свива, а „времето до регулация“ се разтяга.

Има и допълнителен времеви натиск. Част от правилата започват да се прилагат през 2025 г., други през 2026 г. Най-чувствителните режими за високорискови системи в ключови сектори тръгват от 2 декември 2027 г. Правилата за високорисков ИИ, вграден в вече регулирани продукти, са планирани за 2 август 2028 г.

Изводът става все по-труден за игнориране. ЕС има рамка, но автономните агенти променят играта. Вече не става дума само за модели, които генерират текст или изображения. Става дума за системи, които действат самостоятелно и могат да атакуват реални цели.

Още новини в категория Светът