Ostrzeżenie lidera OpenAI: Czy ktokolwiek jest gotowy na AGI? – MDC

Ostrzeżenie lidera OpenAI: Czy ktokolwiek jest gotowy na AGI?

Lider OpenAI, który odchodzi, oświadczył, że żadna organizacja nie jest przygotowana na AGI.

Reklamys

Dział ‘Gotowość AGI’ w OpenAI także zaczyna być rozwiązywany. Kylie Robison, starsza reporterka ds. sztucznej inteligencji, która współpracuje z zespołami politycznymi i technicznymi The Verge. W przeszłości pracowała w Business Insider i Fortune Magazine.

Z ogłoszeniem swojego odejścia w środę, Miles Brundage, starszy doradca OpenAI ds. wykonalności AGI (znanej również jako sztuczna inteligencja na poziomie ludzkim), wydał ostrzeżenie: nikt, włączając w to OpenAI, nie jest przygotowany na sztuczną inteligencję ogólną.

Brundage, który przez sześć lat pomagał w rozwoju inicjatyw bezpieczeństwa AI firmy, napisał: “Ani OpenAI, ani żadne inne labolatorium nie jest przygotowane na AGI, a także świat nie jest przygotowany.” “Aby być całkowicie jasnym, nie wierzę, że to jest kontrowersyjna deklaracja wśród liderów OpenAI. Co ważniejsze, to jest odrębne pytanie od tego, czy firma i świat są na dobrej drodze, aby być przygotowanym we właściwym czasie.”

Jego odejście jest najnowszym w serii głośnych odejść z zespołów bezpieczeństwa OpenAI. Po stwierdzeniu, że “kultura bezpieczeństwa i procesy zajęły miejsce na drugim planie dla błyszczących produktów”, odszedł Jan Leike, znakomity badacz. Ilya Sutskever, współzałożyciel, także odszedł, aby założyć własne przedsięwzięcie AI, które specjalizuje się w rozwoju bezpiecznego AGI.

Rozwiązanie zespołu “Gotowość AGI” Brundage’a, które nastąpiło zaledwie kilka miesięcy po rozwiązaniu zespołu “Superalignment” firmy, podkreśla rosnące napięcia między pierwotną misją OpenAI i jej aspiracjami komercyjnymi. Firma podobno jest pod presją, aby przekształcić się z organizacji non-profit w spółkę akcyjną na korzyść publiczną w ciągu najbliższych dwóch lat, w przeciwnym razie może być zmuszona do zwrotu środków z jej ostatniej rundy inwestycyjnej o wartości 6,6 miliarda dolarów. Ten proces komercjalizacji był powodem niepokoju dla Brundage’a, który wyraził obawy w 2019 roku, gdy OpenAI początkowo założyło swoją działalność komercyjną.

Brundage przypisał swoje odejście rosnącym ograniczeniom dotyczącym jego wolności badawczej i publikacyjnej w renomowanej organizacji. Podkreślił konieczność niezależnych perspektyw w dyskusjach na temat polityki AI, wolnych od przemysłowych uprzedzeń i konfliktów interesów. Jest przekonany, że teraz może mieć większy wpływ na globalne zarządzanie AI z zewnątrz organizacji, po pełnieniu funkcji doradcy przygotowań wewnętrznych OpenAI.

To odejście może również być oznaką głębokiego podziału kulturowego wewnątrz OpenAI. Wielu badaczy zwerbowało się w celu promowania badań nad AI, ale teraz stają w obliczu środowiska bardziej skoncentrowanego na produktach. Przydział wewnętrznych zasobów stał się punktem zapalnym; doniesienia sugerują, że zespołowi Leike’a odmówiono dostępu do mocy obliczeniowej do badań bezpieczeństwa przed jego ostatecznym rozwiązaniem.

Brundage przyznał, że OpenAI zaoferowała mu finansowanie, kredyty API i wstępny dostęp do modelu, bez żadnych warunków, pomimo wyżej wymienionych napięć.

Picture of Anna Kowalska
Anna Kowalska

Redaktor w MDC od 2024 roku.

ZASTRZEŻENIE:

W żadnym przypadku nie będziesz zobowiązany do płacenia za dostęp do jakiegokolwiek produktu, w tym kart kredytowych, pożyczek czy innych ofert. Jeśli tak się stanie, prosimy o natychmiastowy kontakt z nami. Zawsze upewnij się, że przeczytałeś warunki i zasady dostawcy usług, z którym się kontaktujesz. Generujemy przychody poprzez reklamy i polecenia dla niektórych, ale nie wszystkich, produktów prezentowanych na tej stronie internetowej. Wszystko, co tutaj publikujemy, opiera się na badaniach ilościowych i jakościowych, a nasz zespół stara się być jak najbardziej obiektywny w porównywaniu opcji konkurencyjnych.

ROZPOWSZECHNIANIE REKLAMODAWCY:

Jesteśmy niezależną witryną redakcyjną, obiektywną i finansowaną z reklam. Aby wspierać naszą zdolność do dostarczania treści bezpłatnie naszym użytkownikom, rekomendacje, które pojawiają się na naszej stronie, mogą pochodzić od firm, od których otrzymujemy wynagrodzenie jako afilianci. To wynagrodzenie może wpływać na sposób, miejsce i kolejność, w jakiej oferty pojawiają się na naszej stronie. Inne czynniki, takie jak nasze własne algorytmy i dane pierwszej strony, mogą również wpływać na sposób i miejsce, w którym produkty/oferty są umieszczane. Nie wymieniamy na naszej stronie wszystkich ofert finansowych ani kredytowych, które są obecnie dostępne na rynku.

NOTA REDAKCYJNA:

Opinie wyrażone tutaj są wyłącznie opinią autora i nie reprezentują żadnego banku, wydawcy kart kredytowych, hotelu, linii lotniczej ani jakiejkolwiek innej podmiotu. Ta treść nie została sprawdzona, zatwierdzona ani poparta przez żadną z podmiotów wymienionych w komunikacie. Niemniej jednak, wynagrodzenie, które otrzymujemy od naszych partnerów afiliacyjnych, nie wpływa na rekomendacje ani porady udzielane przez nasz zespół redakcyjny w naszych artykułach, ani w żaden sposób nie wpływa na treść tej strony internetowej. Chociaż ciężko pracujemy, aby dostarczyć dokładne i aktualne informacje, które uważamy za istotne dla naszych użytkowników, nie możemy zagwarantować, że wszystkie dostarczone informacje są kompletne i nie składamy żadnych oświadczeń ani gwarancji dotyczących ich dokładności czy zastosowania.