Anthropic-topp advarer: KI kan utslette menneskeheten innen ti år

Evan Hubinger, som leder sikkerhets- og alignment-arbeidet i Anthropic, sier han og kollegene «virkelig og oppriktig» tror kunstig intelligens kan komme til å utrydde hele menneskeheten. Han anslår selv sannsynligheten for at det skjer i løpet av det neste tiåret til over ti prosent, og legger til at selskapet foreløpig ikke har noen løsning på det han kaller kontrollproblemet for superintelligens.

Samtidig med uttalelsene ble det kjent at forskeren Jacob Coxon, som har jobbet både hos Anthropic og tidligere OpenAI, har sagt opp stillingen sin i protest. Han anklager begge selskapene for å kappes mot selvforbedrende superintelligens og for å gamble med menneskers liv i jaget etter å komme først.

Ikke alle er enige i alvorlighetsgraden. Oxford-professor Sandra Wachter avviser «Terminator-scenarioer» og mener slike advarsler stjeler oppmerksomhet fra reelle problemer som feilinformasjon og tap av arbeidsplasser, mens Dame Wendy Hall — som rådgir FN om KI — sier hun ble sjokkert over uttalelsene, men peker samtidig på at deler av alarmen kan være PR og markedsføring.

For virksomheter er poenget ikke om superintelligens kommer i morgen, men at folkene som bygger de kraftigste KI-modellene i verden er uenige om hvor farlig teknologien er og hvor fort den utvikler seg. Kilde: VG / Forbes, 10. september 2026.