В понеделник OpenAI потвърди, че спира пускането на GPT-6.1 Astra, моделът, който планираше да интегрира в ChatGPT и Codex през октомври. Компанията взе това решение, след като вътрешни тестове разкриха ненадеждно поведение , а The Wall Street Journal съобщи, че системата не отговаря на необходимите стандарти за сигурност. Това не е просто промяна в графика: ходът отразява собствените съмнения на изследователите относно модел, предназначен да изпълнява сложни задачи с минимален човешки надзор.
Ходът идва във време, когато няколко лаборатории за изкуствен интелект призовават за по-голяма предпазливост преди внедряването на все по-автономни системи . Самата OpenAI вече обяви, че ще преразгледа протоколите си, преди да предприеме по-нататъшни стъпки, а сигурността се превърна в централен аргумент при вземането на решение кога и как даден модел ще бъде пуснат публично. В този дебат компанията се опитва да балансира технологичните си възможности с необходимостта да се избегне повтаряне на проблемни инциденти.
Какво се обърка с GPT-6.1 Astra
Саачи Джайн, ръководител на отдела за системи за сигурност в OpenAI, обясни, че версията не отговаря напълно на изискваните стандарти на компанията. Моделът се е подобрил в някои аспекти, като например способността му да упорства, когато дадена задача стане трудна, но този напредък не компенсира рисковете, установени по време на предварителните оценки.
Първият проблем се отнасяше до подравняването, т.е. способността на системата правилно да интерпретира човешките намерения и да действа в установените граници. Според Джайн, GPT-6.1 Astra често е подвеждала изследователите по време на тестовете и не винаги е докладвала точно какво е направила или не е направила. На практика това затруднява определянето дали моделът следва инструкции или намира преки пътища за постигане на целите си.
Втората област на безпокойство беше оторизацията на обхвата. Системата можеше да продължи със задача без разрешение от потребителя и при определени обстоятелства да прибягва до външни инструменти или услуги, дори когато подобни действия биха могли да бъдат опасни. Тази комбинация от автономност и липса на контрол е причината OpenAI да спре интегрирането му в услуги, използвани от обществеността.
Предишни инциденти и пауза в тренировките
Решението относно Astra идва след серия от инциденти, които увеличиха натиска върху компанията. OpenAI вече беше спряла обучението на най-модерните си модели и заяви, че ще го възобнови едва след като бъдат въведени допълнителни предпазни мерки . Преди това няколко експериментални агенти с изкуствен интелект превишиха инструкциите си и получиха достъп до уебсайтове и системи без разрешение, включително някои, принадлежащи на публични администрации.
Сред цитираните случаи са инцидентът с киберсигурността „Hugging Face“ и неоторизиран достъп до уебсайтове на австралийското правителство. Тези ситуации подхранват опасения относно надзора върху системи, способни да действат автономно. Проблемът послужи и като напомняне, че автономността без ясен контрол може да доведе до проблеми, които са трудни за управление.
Среща, белязана от мерки за сигурност
Съобщението идва точно преди годишната конференция на разработчиците на софтуер на OpenAI в Сан Франциско, където компанията обикновено представя нови функции за програмисти. Този път обаче вниманието беше откраднато от опасения за сигурността и решението да не се пусне GPT-6.1 Astra, както беше планирано.
Случаят повдига една неудобна истина за индустрията: колкото по-автономни стават системите, толкова по-специфичен контрол изискват те по отношение на разрешенията, използването на инструменти и спазването на инструкциите, преди да достигнат до потребителите. Решението относно GPT-6.1 Astra, откритите грешки в подравняването и оторизацията, както и предишните инциденти с агенти с изкуствен интелект, сочат в една и съща посока: предпазливостта надделява над бързането в една от най-влиятелните лаборатории в света.