Egy OpenAI-modell két óra alatt talált súlyos szerverhibát
Max Justicz, a Charge Robotics társalapítója és technológiai vezetője egy OpenAI-modell segítségével súlyos sérülékenységet talált egy széles körben használt, Ubuntu-alapú szervereket érintő kódbázisban. A GPT 5.6 Solt az OpenAI Daybreak Blue programján keresztül használta, és azt kérte tőle, hogy keressen olyan hibákat, amelyek legalább olyan veszélyesek, mint egy korábban már felfedezett és kijavított sérülékenység. Az AI körülbelül két óra alatt talált egy rendkívül összetett hibát, amelynek kihasználásával támadók átvehették volna az érintett szerverek felett az irányítást.
Justicz jelentette a problémát a Debian Projectnek, amely karbantartja az érintett szoftvert, és javítást adott ki. A sérülékenység kihasználására nincs ismert bizonyíték, az eset mégis azt mutatja, hogy a mesterséges intelligencia a korábban főként tapasztalt biztonsági kutatók számára elérhető hibakeresést jóval szélesebb körben teheti lehetővé. Justicz szerint több idővel és kevésbé korlátozott modellekkel még súlyosabb hibák felfedezésére és kihasználására is fel kell készülni, miközben a védekező szakemberek erőforrásai korlátozottak.
OpenAI közben új, kiberbiztonságra összpontosító modellt jelentett be, amelyet a Daybreak Red legmagasabb szintű program résztvevői használhatnak. A vállalat szerint ugyanazt a modellt a Linux kernel sérülékenységeinek keresésére és javítás-előkészítésére is alkalmazták: 948 lehetséges hibát azonosítottak, a Firefoxban pedig 81 új sérülékenységet találtak. OpenAI egy 1 milliárd dolláros kezdeményezést is bejelentett a kritikus infrastruktúrán dolgozó kiberbiztonsági szakemberek támogatására. A hozzáférés korlátozása azonban vitát vált ki, mert a védők így hátrányba kerülhetnek azokkal szemben, akik nyíltan elérhető, kevésbé szabályozott modelleket használnak.