Szef OpenAI: obawy przed AI są uzasadnione, ale branża sama się ureguluje

Debata o tempie rozwoju sztucznej inteligencji i związanym z nią ryzykiem nabiera ostrości. We wtorek podczas dorocznej konferencji Salesforce w San Francisco prezes OpenAI Sam Altman po raz pierwszy publicznie odniósł się do fali niepokoju, która przetoczyła się przez branżę po publikacji ostrzeżenia byłego badacza Anthropic. Altman przyznał, że obawy są uzasadnione, ale jednocześnie wezwał do zaufania wobec firm rozwijających AI.

Wypowiedź Altmana wpisuje się w szerszą dyskusję o tym, kto powinien kontrolować rozwój zaawansowanych modeli – same korporacje, czy zewnętrzne instytucje państwowe. W konferencji wzięli udział także inni kluczowi gracze, w tym szef Nvidii Jensen Huang, który stanowczo odrzucił pomysł nowych regulacji.

Najważniejsze fakty

Uzasadnione obawy, ale zaufanie do branży

Sam Altman podczas wystąpienia przed setkami przedsiębiorców stwierdził, że świat ma prawo obawiać się sztucznej inteligencji. „Nie trzeba już wiele wyobraźni, by przewidzieć, jak to może się źle skończyć” – powiedział, cytowany przez BBC. Jednocześnie zaapelował o zaufanie: „Świat powinien nam zaufać, że zrobimy to, co słuszne, bo czujemy wagę odpowiedzialności”.

Altman zapewnił, że jego firma będzie utrzymywać bezpieczeństwo i zgodność działania daleko przed możliwościami technologicznymi. Jeśli nie będzie to możliwe – zadeklarował – OpenAI spowolni lub wstrzyma rozwój.

Jego wypowiedź była pierwszą publiczną reakcją od czasu, gdy były badacz Anthropic opublikował w internecie ostrzeżenie, że sztuczna inteligencja może doprowadzić do zagłady ludzkości do końca dekady. Część ekspertów uznała te słowa za przesadzone, ale wywołały one szeroką debatę w Dolinie Krzemowej.

Samoregulacja zamiast przepisów

Jensen Huang, prezes Nvidii – obecnie największej firmy świata pod względem kapitalizacji – poparł stanowisko Altmana. „Bezpieczeństwo jest najważniejsze, ale to problem inżynieryjny” – stwierdził Huang. Jego zdaniem to firmy, a nie rządy, powinny decydować, czy nowa wersja technologii trafia na rynek. „Nie potrzebujemy nowych przepisów ani regulacji” – dodał.

Huang argumentował, że liderzy firm sami wstrzymają wdrożenie, jeśli stracą kontrolę nad bezpieczeństwem produktu. „Biegnij tak szybko, jak potrafisz, ale jeśli w którymś momencie uznasz, że instytucja nie panuje nad sytuacją, zrób pauzę” – powiedział.

W USA wciąż nie ma realnych ram prawnych dla AI. Altman i Huang sugerują, że branża poradzi sobie bez nadzoru państwa.

Głos krytyki: samoregulacja to ryzyko

Nie wszyscy podzielają optymizm liderów branży. Jack Clark, współzałożyciel Anthropic, w rozmowie z BBC określił pozostawienie AI „całkowicie nieuregulowaną branżą” jako „grę w kości z ogromnym ryzykiem”. Patrick Hillman, dyrektor operacyjny Logical Intelligence, zwrócił uwagę, że Amerykanie ufają Dolinie Krzemowej jeszcze mniej niż Waszyngtonowi. „Jeśli wierzycie, że to, co budujecie, jest niebezpieczne, pokażcie, co jesteście gotowi przestać robić” – zaapelował.

W odpowiedzi na krytykę OpenAI i Anthropic ogłosiły, że pracują nad dobrowolnymi standardami bezpieczeństwa dla całej branży. Chris Lehane z OpenAI napisał, że firma współpracuje z innymi laboratoriami „nad zaawansowanymi standardami dla AI, budując dobrowolne wysiłki teraz, z rządowym wsparciem lub bez”.

Co pozostaje niejasne

Nie wiadomo, jakie konkretnie standardy bezpieczeństwa mają zostać wprowadzone i czy będą one wiążące. Altman nie podał szczegółów dotyczących mechanizmów samoregulacji. Krytycy wskazują, że dotychczasowe deklaracje firm nie przełożyły się na konkretne działania ograniczające rozwój modeli. Nie jest też jasne, czy ewentualne porozumienie obejmie wszystkich głównych graczy, w tym firmy spoza USA.

Źródło: BBC News, https://www.bbc.co.uk/news/articles/cqx2zpj4y525o?at_medium=RSS&at_campaign=rss