Oferta publiczna OpenAI ma poczekać na bezpieczniejsze modele
Sam Altman, prezes OpenAI, odniósł się do spekulacji dotyczących wejścia spółki na giełdę. Jak zaznaczył, taki krok nie nastąpi, dopóki firma nie będzie w stanie przedstawić bardziej wiarygodnych zapewnień w sprawie bezpieczeństwa rozwijanych modeli.
Nie padła konkretna data ani harmonogram potencjalnej oferty publicznej. Wypowiedź Altmana łączy jednak dwa procesy, które często są omawiane osobno: szybki wzrost możliwości systemów AI oraz odpowiedzialność za sposób ich rozwijania i udostępniania. Według niego postęp modeli przyspieszył na tyle, że kwestia bezpieczeństwa wymaga większej uwagi przed podjęciem tak ważnej decyzji biznesowej.
Nasz komentarz: Bezpieczeństwo modeli przestaje być dodatkiem do rozwoju AI, a staje się warunkiem dalszego skalowania całego rynku.
Rosnące możliwości modeli podnoszą poprzeczkę bezpieczeństwa
W naszej ocenie najważniejsza w tej deklaracji nie jest sama perspektywa giełdowego debiutu, lecz uznanie, że możliwości modeli i ich bezpieczeństwo muszą być traktowane jako nierozłączne. Im bardziej zaawansowany staje się model, tym większe znaczenie ma nie tylko to, co potrafi wygenerować, lecz także to, jak przewidywalnie działa w sytuacjach błędnych, niejednoznacznych lub potencjalnie szkodliwych.
Bezpieczeństwo AI nie jest pojedynczą właściwością, którą można po prostu „włączyć” przed premierą. Obejmuje ono między innymi zdolność do ograniczania niepożądanych zachowań, odporność na próby obejścia zabezpieczeń oraz zrozumienie ograniczeń systemu przez osoby, które z niego korzystają. Źródło nie wskazuje, jakie dokładnie gwarancje OpenAI uznaje za wystarczające, ale sama zapowiedź sugeruje, że dotychczasowe podejście firma ocenia jako nieadekwatne wobec tempa rozwoju technologii.
Uważamy, że ten sygnał będzie istotny dla całego sektora. Duże modele językowe (LLM-y) są rozwijane w warunkach silnej presji na szybsze zwiększanie ich użyteczności i zakresu zadań. Jeśli bezpieczeństwo zostaje przedstawione jako warunek decyzji o tak dużej wadze, może to wzmacniać oczekiwanie, że twórcy modeli będą musieli lepiej uzasadniać, dlaczego dane systemy są gotowe do szerokiego zastosowania.
- Dla użytkowników – większe znaczenie będzie miała przewidywalność działania modeli, a nie wyłącznie ich imponujące możliwości.
- Dla rynku AI – rośnie znaczenie procedur oceny ryzyka jako elementu rozwoju produktów, nie tylko komunikacji wokół nich.
- Dla rozwoju modeli – postęp technologiczny będzie coraz trudniej oddzielić od pytań o kontrolę nad konsekwencjami systemów o coraz większych możliwościach.
W skrócie
- Sam Altman zapowiedział, że OpenAI nie wejdzie na giełdę przed przedstawieniem mocniejszych zapewnień dotyczących bezpieczeństwa modeli.
- Firma nie podała terminu potencjalnej oferty publicznej.
- W naszej ocenie wypowiedź pokazuje, że wraz ze wzrostem możliwości AI bezpieczeństwo staje się kluczowym warunkiem dalszego rozwoju technologii.
Opracowanie redakcyjne na podstawie artykułu The Verge AI: https://www.theverge.com/ai-artificial-intelligence/1002505/sam-altman-openai-ipo-devday-ai-safety