• OpenAI, Anthropic i Google od kilku tygodni rozmawiają o współpracy, której priorytetem ma być bezpieczeństwo AI i ograniczanie ryzyk związanych z rozwojem modeli.
• Według AFP firmy zabiegają o powołanie organu nadzorującego zagrożenia AI, a mniejsze podmioty jak Mistral zarzucają gigantom próbę zamrożenia tempa rozwoju technologii.
• W tle rośnie presja na regulacje: Dario Amodei ostrzega przed utratą kontroli nad AI, a Stephen Witt porównuje potrzebę międzynarodowego nadzoru do kontroli wzbogacania uranu.

Chris Lehane oświadczył, że OpenAI, Anthropic i Google prowadziły od kilku tygodni rozmowy na temat podjęcia współpracy. "Lepiej jest próbować pracować razem, tak aby priorytetem stało się bezpieczeństwo" - dodał.

Reuters zastrzega, że żadna z tych trzech firm nie zareagowała na prośby o skomentowanie tematu.

Według AFP OpenAI, Anthropic i Google zabiegają o utworzenie organu, który nadzorowałby zagrożenia, jakie może stworzyć sektor AI. Agencja zwraca jednak uwagę, że mniejsze firmy z sektora sztucznej inteligencji, w tym francuski Mistral, zarzucają amerykańskim gigantom, że chcą teraz zamrozić tempo rozwoju sztucznej inteligencji, by scementować swoją pozycję globalnych championów tej technologii.

Również brytyjski "Telegraph" napisał w niedzielę, że Anthropic, który przygotowuje się do rychłego wejścia na giełdę, a zarazem ma pozycję "lidera w wyścigu AI", może skłaniać się ku planom zamrożenia rozwoju modeli sztucznej inteligencji, by tę pozycję utrzymać.

Dario Amodei, szef firmy Anthropic, napisał w sobotę, że być może tylko sześć miesięcy dzieli nas od przełomu, po którym ludzie mogą całkiem stracić kontrolę nad AI. Nie jest to zresztą pierwsze ostrzeżenie na ten temat, jakie publicznie sformułował Amodei - przypominał "Telegraph".

W sobotę szef OpenAI Sam Altman oraz właściciel xAI, miliarder Elon Musk poparli apel Amodeiego.

AFP podaje we wtorek, że do głosów na rzecz spowolnienia rozwoju AI dołączył matematyk Bilal Chughtai, były badacz z firmy Google DeepMind, który odpowiadał za szkolenie modeli pod kątem bezpieczeństwa i zgodności z instrukcjami i wartościami ludzi.

"Wierzę szczerze, że AI ma potencjał, by nas wszystkich zabić, i że być może jest za późno, by tego uniknąć" - oświadczył Chughtai. Kilka dni wcześniej o odejściu z Anthropica poinformował publicznie Jacob Coxon, który zajmował się szkoleniem modeli AI. Zarzucił firmie i jej konkurentowi OpenAI nieodpowiedzialne dążenie do superinteligencji i "igranie z życiem ludzi".

Stephen Witt, znawca AI i autor nagrodzonej przez "Financial Times" książki "Myśląca maszyna", napisał w piątkowym wydaniu dziennika "New York Times", że rozwój AI trzeba regulować na szczeblu międzynarodowym, jak wzbogacanie uranu.

Roje modeli AI są w stanie wyrywać się z izolowanego otoczenia, współpracować w tajemnicy, zacierać ślady swych wyczynów, oszukiwać i organizować ataki na komputery. Sztuczna inteligencja buntuje się - ostrzegł Witt.