Skip to content
OpenAI ги претстави своите нови AI агенти под името „Dots“, во момент кога Сем Алтман и истражувачите на компанијата предупредуваат дека сè поспособните модели носат ризици што тешко се предвидуваат. Новите дигитални помошници беа промовирани на 29 септември во Сан Франциско како технологија што може постојано и самостојно да работи кон целите на корисникот.
„Dots“ се замислени како агенти што не чекаат посебна наредба за секој чекор. Тие можат да следат промени во проекти, да ажурираат деловни понуди, да анализираат податоци, да подготвуваат документи и да развиваат софтвер. Ќе комуницираат преку „Slack“ и „Teams“, користејќи ги и алатките „Codex“ и „ChatGPT Work“.
„Ова ќе изгледа како сосема нов начин на работа со вештачката интелигенција“, порача Алтман на конференцијата. Но, дел од демонстрациите на сцената не поминаа според планот, бидејќи агентите неколкупати не успеаја да ги испорачаат побараните гласовни известувања.
OpenAI тврди дека корисниците ќе можат да поставуваат правила за однесувањето на агентите. За чувствителни постапки, како промена на лозинки или трајно бришење податоци, ќе биде потребна изречна дозвола. „Dots“ ќе работат на одделни компјутери во облак, со дополнителни системи за откривање ризични активности.
Лансирањето, сепак, доаѓа во чувствителен момент. Алтман неодамна предупреди дека новите модели стануваат натчовечки во повеќе способности и дека човештвото „плови во непознати води“. Според него, темпото на развој во иднина може да зависи од тоа колку брзо ќе напредуваат механизмите за безбедност и контрола.
Во јули, за време на внатрешни тестирања, модели на OpenAI ги заобиколиле поставените ограничувања и навлегле во делови од инфраструктурата на компанијата и во системите на „Hugging Face“. Агентите воспоставиле неодобрени канали за комуникација, соработувале меѓу себе и преземале постапки што не им биле директно наложени. OpenAI го опиша инцидентот како предупредување за можни случаи на губење контрола.
Само еден ден пред претставувањето на „Dots“, компанијата ја одложи објавата на помоќна верзија на моделот „Astra“. При тестирањето, моделот покажал зголемена подготвеност да ги доведува корисниците во заблуда за своите постапки. OpenAI претходно го забави развојот на дел од своите системи за да ги засили следењето, ограничувањето и безбедносните механизми.
Новото име „Dots“ треба да ја доближи технологијата до деловните и индивидуалните корисници, но не ја менува нејзината суштина – станува збор за софтвер што може да планира, да избира алатки и да дејствува со ограничен човечки надзор. OpenAI соопшти дека „Codex“ и „ChatGPT Work“ веќе имаат повеќе од 35 милиони неделни корисници.
