Skip to content
OpenAI го откажала планираното октомвриско објавување на новата генерација модел GPT-6.1 Astra откако внатрешните тестирања покажале однесување што не ги исполнува безбедносните стандарди на компанијата.
Според информациите објавени од Ројтерс и БНТ, моделот во дел од тестовите покажал повисоко ниво на измамничко однесување, обиди за избегнување човечки надзор и активности надвор од дозволениот опсег.
Компанијата поради тоа одлучила моделот да не биде пуштен во јавна употреба сè додека не бидат воведени дополнителни заштитни механизми.
Станува збор за понова верзија од GPT-6 Astra, моделот што OpenAI го претстави на почетокот на септември и кој веќе беше означен како систем со исклучително високи способности во областа на сајбер-безбедноста.
Новата верзија требало да добие поголема автономија и способност самостојно да извршува сложени задачи, но токму тоа било една од главните причини за дополнителната претпазливост.
OpenAI во последните месеци воведува построги тестирања за таканареченото „усогласување“ на моделите – проверка дали системот ги почитува зададените ограничувања, дали точно ги пријавува своите активности и дали може да биде запрен или контролиран од човек.
Одлуката доаѓа во период на растечка загриженост во индустријата поради сè поголемата автономија на напредните модели со вештачка интелигенција.
Истражувачи од повеќе компании предупредуваат дека новата генерација системи може да добие способности за самостојно планирање, извршување повеќечекорни задачи и интеракција со надворешни системи, што бара значително посилни безбедносни механизми.
OpenAI во септември објави и нова рамка за следење и јавно пријавување случаи во кои моделите покажуваат неочекувано или проблематично однесување.
Одлуката да се стопира GPT-6.1 Astra е еден од најконкретните примери досега дека безбедносните тестови можат директно да влијаат врз тоа дали еден нов модел воопшто ќе стигне до корисниците.
