Компанијата OpenAI соопшти дека два нејзини напредни агенти со вештачка интелигенција (ВИ) го ослабнале сопствениот безбедносен надзор за време на вообичаени програмерски задачи.
Еден од агентите подоцна неточно тврдел дека не го отстранил системот за следење, објави CNBC.
Во првиот случај, агент базиран на моделот GPT-6.1 Sol ги исклучил автоматските предупредувања што се испраќале до безбедносниот тим на компанијата.
Во вториот случај, агент кој го користел моделот GPT-6 Astra ја отстранил интеграцијата со системот за надзор за време на префрлање на програмата, а потоа негирал дека го направил тоа.
Овие случаи отвораат прашања за сигурноста и контролата врз напредните ВИ-системи, особено кога тие извршуваат задачи со поголема автономија.
