Badacze nie owijają w bawełnę. AI może niedługo zabić wszystkich ludzi

Jacob Coxon zrezygnował z pracy w amerykalńskim Anthropic, gdzie zajmował się trenowaniem modeli AI. Wcześniej pracował również dla innego lidera branży, OpenAI. Teraz zarzuca obu firmom, że biorą udział w niebezpiecznym wyścigu po samodoskonalącą się superinteligencję, mimo świadomości potencjalnych konsekwencji.

Anthropic nie ma planu na bezpieczną superinteligencję

Zdaniem badacza AI największym zagrożeniem nie są obecne chatboty, lecz systemy zdolne do ulepszania samych siebie. Taki proces mógłby prowadzić do szybkiego wzrostu możliwości AI i w pewnym momencie utrudnić ludziom zachowanie nad nią kontroli.

Coxon twierdzi, że osoby rozwijające najbardziej zaawansowane modele rzeczywiście biorą pod uwagę scenariusz, w którym sztuczna inteligencja doprowadzi do zagłady ludzkości jeszcze przed końcem obecnej dekady. Mimo tego największe laboratoria nadal zwiększają możliwości swoich systemów, obawiając się, że konkurencja osiągnie przełom jako pierwsza.

Jeszcze mocniej brzmi reakcja Evana Hubingera, kierującego zespołem Alignment Science w Anthropic. Przyznał on publicznie, że szacuje ryzyko zabicia wszystkich ludzi przez AI na ponad 10% w ciągu najbliższych dziesięciu lat. Zaznaczył przy tym, że nie chodzi o obecne modele.

Hubinger przyznał również, że Anthropic nie ma jeszcze gotowego sposobu na zagwarantowanie, że przyszła superinteligencja pozostanie zgodna z ludzkimi interesami. Co więcej, jego zdaniem nie jest jasne, czy branża znajduje się obecnie na dobrej drodze do rozwiązania tego problemu.