En paus på sex månader skulle ge industrin tid att ordna säkerhetsstandarder för AI-utvecklingen och därigenom förhindra potentiell skadeverkan i de mest riskfyllda fälten för AI-teknik, skriver brevförfattarna.
”Vi har nått en punkt där systemen är smarta nog att kunna göra samhällelig skada. Förståelsen för detta finns ännu inte på plats”, uppgav professorn Yoshua Bengio, en av författarna, nyligen i en intervju.
Den nypublicerade skriften, som har rubriken ”Pausa de gigantiska AI-experimenten: Ett öppet brev”, är undertecknat av Apple-medgrundaren Steve Wozniak och även företrädare för flera organisationer som engagerar sig för att lyfta risken med mjukvaror som kan lära sig genom så kallad maskininlärning som består i att stora datakällor processas i så kallade ”large language models” (LLM).
OpenAI släppte nyligen ChatGPT-4, en uppdatering av den uppmärksammade chatroboten som Microsoft köpt in sig i och integrerat med den egna sökmotorn Bing. Google och kinesiska sökmotorbolaget Baidu har därefter lanserat konkurrenter.
Brevskrivarna kräver nu inte ett totalstopp för utveckling, men vädjar till bolag att avbryta upplärningen av system som är mer kraftfulla än GPT-4.
Sam Altman, som är vd för OpenAI, hävdar dock att brevet är att betrakta som ”predikande för kören”.
”Jag tror att vi har pratat om de här frågorna allra mest högröstat, med högst intensitet och under längst tid”, sade han enligt Wall Street Journal.
I bakgrunden finns dock även uttalanden från Microsoft-vd:n Satya Nadella, som i februari hävdade att ”tävlingen startar i dag” och utlovade ”avancemang i mycket snabb hastighet” på området.
”Det är olyckligt att detta tar formen av en kapplöpning som om det gällde vapensystem. Det är mer av ett självmordsrally. Det spelar ingen roll vem som når fram först, det betyder ändå att mänskligheten i sin helhet kan tappa kontrollen av sitt eget öde”, sade Max Tegmark enligt Wall Street Journal.
Om inte bolagen i sektorn själva kan verkställa en paus i utvecklingen så bör regeringar kliva in och säkerställa att så sker, menar brevskrivarna.