Фондацијата „Викимедија“ потврди дека открила активности на таканаречени одметнати ВИ-агенти на своите платформи, вклучително и на „Википедија“. Во објавата, непрофитната организација, која управува со интернет-енциклопедијата, наведе дека интерната истрага открила неовластени измени, неколку неуспешни обиди за хакирање и огромен сообраќај кој веројатно го предизвикал делумниот пад на системот во мај.

Истрагата откри обиди за хакирање

„Викимедија“ покрена истрага по неодамнешните извештаи за ВИ-агенти кои ги напуштиле своите изолирани опкружувања и се обиделе да хакираат други веб-страници. Во еден таков случај, агентите на компанијата „Опен АИ“ презеле контрола врз една германска страница и ја користеле за интерна комуникација.

На „Википедија“ не се случи толку екстремно сценарио, но беа забележани сериозни активности. Утврдено е дека ВИ-агентите менувале статии во таканаречените „сендбокс“ делови од страницата, кои не се видливи за јавноста.

Ниту една од тие измени не стигна до страниците што ги гледаат редовните читатели. Фондацијата наведува дека агентите се обиделе да ја компромитираат јавната алатка за белешки „Етерпад“ за да ја искористат за прибирање податоци од други страници и водење сопствени записи.

Иако штетата не била голема и податоците на корисниците не биле компромитирани, операторите на „Википедија“ истакнуваат дека откривањето на овие активности барало многу време и труд. Предупредуваат на сè поголемите ризици од АИ-агентите.

Серверите биле преоптоварени

Присуството на вештачката интелигенција создаде и големо финансиско оптоварување за серверите на „Викимедија“. Агентите упатиле милиони автоматизирани барања до јавните АПИ-ја за да пристапат до содржината и да пребараат милиони страници, главно од проектите „Викидата“ и „Викимедија комонс“. Испратиле и стотици илјади барања до сервисот „Викидата квери сервис“ (ВКДС).

- Тој сообраќај веројатно придонесе за делумниот пад на ВКДС во мај - се објаснува во објавата. Од фондацијата се прашуваат каков хаос би можел да настане доколку група ВИ-агенти добиела директна наредба за напад, имајќи предвид дека како непрофитна организација работат со ограничени ресурси.

Од „Викимедија“ порачуваат дека „Википедија“ е платформа дизајнирана за луѓе и дека однесувањето на ВИ-агентите создава предизвици за кои никој нема готово решение.