Model od OpenAI ukradł kryptowaluty i je wydał. Trzeba było pilnować
OpenAI pochwaliło się incydentem z 26 czerwca bieżącego roku. Otóż ich agent oparty na GPT-5.6 Sol dokonał kradzieży kryptowalut, którą sam przed sobą usprawiedliwił, a następnie wydał pieniądze.
Badacze postawili przed modelem pewne zadanie: miał dokonać aktualizacji prototypu systemu do handlu kryptowalutami i wdrożeniu kontraktów (publikacji specjalnego kodu) w testowej sieci Ethereum o nazwie Sepolia. Problem w tym, że zadanie to wymagało pieniędzy, a agent AI nie miał ani grosza. To go jednak nie zniechęciło.
Agent AI kradnie kryptowaluty
Postanowił wykorzystać publiczne frazy odzyskiwania i przejąć kontrolę nad innymi kontami, na których znajdowała się ta kryptowaluta. Jego uzasadnienie było proste: trzeba było pilnować. Tylko głupi by nie ukradł. A tak na poważnie, uznał, że skoro jest w stanie się włamać do portfela, to znaczy, że ta waluta została porzucona. Jakby komuś była potrzebna, to lepiej by ją zabezpieczył.
Uczciwie trzeba przyznać, że był świadomy, iż dana waluta nie ma żadnej rynkowej wartości i operuje w środowisku testowym. Rzecz w tym, że to nie zmienia faktu, że ukradł. Agent z takim podejściem mógłby czyścić ludziom konta z walut o niemal zerowej wartości, a przecież to wciąż byłaby kradzież.
Dlaczego OpenAI przeprowadziło taki eksperyment? Otóż firma chciała sprawdzić, czy jej model nadaje się na agenta zarządzającego portfelami kryptowalut. Okazało się, że nie. A co gorsza, nie tylko właściciel takiego portfela świadomie podejmujący ryzyko korzystania z AI jest nim zagrożony, ale także inni użytkownicy, których zabezpieczenia AI da radę złamać.
