Компанія Microsoft оголосила, що ідентифікувала злочинних хакерів із США та з-за кордону, які обійшли захисні механізми генеративних інструментів штучного інтелекту — зокрема, сервісів Azure OpenAI компанії, для створення шкідливого контенту, включаючи недобровільні інтимні зображення знаменитостей та інший сексуальний контент.
За даними компанії, хакери зібрали логіни клієнтів з публічних джерел і скористалися ними для доступу до генеративних послуг ШІ, включаючи Azure OpenAI. Після цього вони змінили можливості продуктів штучного інтелекту і продавали доступ іншим злочинним групам, надаючи їм інструкції щодо створення шкідливого контенту.
Хакери, яких виявила Microsoft, базуються в Ірані, Великій Британії, Гонконзі та В’єтнамі. Вони нібито є частиною глобальної мережі кіберзлочинців, яку Microsoft називає Storm-2139. Двоє інших членів знаходяться у Флориді та Іллінойсі, однак Microsoft відмовилася називати їх, щоб не завадити кримінальному розслідуванню.
Microsoft готує кримінальні звернення до правоохоронних органів США та закордонних країн.
Ця дія відбулася на тлі зростаючої популярності генеративних інструментів ШІ, що викликає занепокоєння щодо їх неналежного використання для створення підроблених заборонених зображень публічних фігур та звичайних людей, а також для створення матеріалів сексуального зловживання над дітьми. Компанії, такі як Microsoft та OpenAI, забороняють таку поведінку та вживають технологічних заходів для її блокування, але злочинні групи все ще можуть намагатися отримати несанкціонований доступ.
«Ми дуже серйозно ставимося до неналежного використання ШІ, розуміючи серйозні та тривалі наслідки зловживань для жертв», — зазначив Стівен Масада, помічник генерального юрисконсульта підрозділу цифрових злочинів Microsoft, у своєму блозі.
Оголошення Microsoft відбулося після позову, поданого компанією в грудні в Східному окрузі Вірджинії проти 10 «Джон До», в намаганні зібрати більше інформації про групу хакерів і перешкоджати її діяльності.
Суд видав рішення, що дозволяють Microsoft захопити ключовий веб-сайт, який використовували хакери, що викликало паніку в середовищі хакерської групи і призвело до того, що деякі учасники почали звинувачувати одне одного. Microsoft змогла зафіксувати це і виявити деяких учасників групи.
Microsoft відмовилася називати знаменитостей, які постраждали.