OpenAI použila vlastné modely na odhalenie špiónského zariadenia ukrytého v kancelárii

OpenAI v utorok oznámila, že FBI zatkla jedného z jej zamestnancov potom, čo spoločnosť využila vlastné AI modely na vyšetrovanie skrytého nahrávacieho zariadenia, ktoré bolo objavené v jednej z jej kancelárií.

Spoločnosť, ktorá stojí za chatbotom ChatGPT, uviedla, že jej modely pomohli vyšetrovateľom porozumieť zariadeniu, vystopovať jeho pôvod a identifikovať zamestnanca, ktorý ho mal nainštalovať niekoľko dní predtým. Spoločnosť zamestnanca následne prepustila a prípad postúpila federálnym orgánom.

Vyšetrovanie FBI stále prebieha. OpenAI nezverejnila totožnosť zamestnanca, kanceláriu, kde bolo zariadenie objavené, ani typ použitého nahrávacieho vybavenia.

Spoločnosť taktiež nevysvetlila, ktoré modely použila ani ako presne pomohli pri odhaľovaní pôvodu zariadenia. Nie je jasné, či modely analyzovali snímky, technické komponenty, záznamy alebo iné dôkazy.

Ako modely vystopovali skryté zariadenie

OpenAI vo vyhlásení zverejnenom na platforme X uviedla, že v jednej zo svojich kancelárií objavila sofistikované nahrávajúce zariadenie a na vyšetrovanie incidentu použila vlastné AI modely.

"Použili sme naše modely na pochopenie zariadenia a jeho pôvodu, pričom sme identifikovali konkrétneho zamestnanca, ktorý ho nainštaloval niekoľko dní skôr," uviedla spoločnosť.

OpenAI následne kontaktovala FBI, ktorej agenti a prokurátori pristúpili k zatknutiu. Spoločnosť avizovala, že bude naďalej spolupracovať na vyšetrovaní.

Spoločnosť nezverejnila technické podrobnosti o tom, ako modely dospeli k svojim záverom, ani ako vyšetrovatelia overili tieto výsledky. Oznámenie preto neposkytuje odpoveď na otázku, do akej miery bolo vyšetrovanie vedené pomocou automatizovanej analýzy a do akej miery konvenčnými bezpečnostnými metódami.

OpenAI tiež uviedla, že nezistila žiadne náznaky toho, že by zamestnanec neoprávnene pristupoval k váham modelov, zdrojovému kódu alebo informáciám o zákazníkoch, či ich odcudzil.

Váhy modelov sú číselné parametre, ktoré určujú, ako natrénovaný model spracúva informácie a generuje výstupy. Patria medzi najcennejšie technické aktíva, ktoré spoločnosti vyvíjajúce pokročilé AI modely chránia s mimoriadnou starostlivosťou.

Z vyhlásenia spoločnosti nie je zrejmé, aké informácie nahrávajúce zariadenie zachytilo pred svojím odhalením.

Bezpečnostné problémy **OpenAI** siahajú hlbšie

OpenAI označila incident za príklad využitia vlastnej technológie pri vyšetrovaní potenciálnych bezpečnostných hrozieb.

Spoločnosť uviedla, že jej bezpečnostný program je navrhnutý tak, aby riešil riziká spojené so zamestnancami, kyberzločincami aj štátnymi aktérmi. Incident navyše prichádza v čase, keď OpenAI čelí aj ďalším bezpečnostným udalostiam.

V piatok spoločnosť oznámila prepustenie troch výskumníkov po vyšetrovaní údajného porušenia pravidiel týkajúcich sa zaobchádzania s citlivými informáciami.

Výskumníci Jasmine Wang, Tomek Korbak a Mikita Balesni zverejnili otvorený list, v ktorom opísali okolnosti svojho prepustenia a vyjadrili obavy, že postup spoločnosti môže vytvárať neistotu medzi zamestnancami a odrádzať výskumníkov od otvoreného hovorenia o otázkach bezpečnosti.

Oba incidenty sa týkajú odlišných okolností a zdá sa, že navzájom nesúvisia. Napriek tomu spoločne poukazujú na rastúce vnútorné bezpečnostné výzvy, ktorým OpenAI čelí v období, keď buduje jedny z najvyspelejších AI systémov na svete.