Акыркы жылдары жасалма интеллектке негизделген автономдуу агенттерди ишке киргизүү кеңири жайылды. Бирок иш жүзүндө бул технологиялар көптөгөн чектөөлөргө туш болот. Агенттердин «жумушту революциялап жатат» деген билдирүүлөрү чыныгы сандар менен дал келбейт. Реалдуу системаларда көп кадамдуу процесстерде ишенимдүүлүк кескин төмөндөп, натыйжалуулук жоголот.
Бул тууралуу «InoZpress» шилтеме берүү менен билдирди HackerNoon
Көпчүлүк стартаптар толук автоматташкан агент системаларын түзүүгө аракет кылууда. Бирок алар реалдуу дүйнө менен иштешкенде математикалык жана инженердик тоскоолдуктарга туш болушат. Көпчүлүк учурларда бул агенттер кыска сценарийлерди гана аткара алат, ал эми кеңири масштабдагы процесстерди башкарууда ийгиликсиздикке дуушар болушат.
Каталар топтолуп, иш процесстерин кыйратат
Автономдуу агенттердин негизги көйгөйү — бул көп баскычтуу тапшырмаларда ката кетирүү тобокелдиги. Ар бир кадам 95% ишенимдүү болсо да, 20 кадамдык процессте жалпысынан ийгиликтин ыктымалдыгы 36% гана болот. Бул көрсөткүч өндүрүш деңгээлиндеги системалар үчүн жетишсиз.
Мындай шартта агент системасын толугу менен өз алдынча иштете албайсың. Агенттердин эффективдүү болушу үчүн операциялардын саны чектелүү болушу керек, ар бир кадам текшерүүгө мүмкүн болушу керек жана айрым учурларда адам тарабынан көзөмөлдөнүшү шарт. Ушундай структура гана математикалык реалдуулукка жооп берет.
Контексттик чыгымдар экономикалык көйгөйлөрдү жаратат
Маалымат агымын сактоо жана кайра иштетүү чыгымдары дагы бир олуттуу көйгөй. Ар бир жаңы суроо мурунку диалогдун контекстин кайра талдоону талап кылат. Бул болсо токен чыгымдарынын квадратикалык өсүшүнө алып келет. Жүздөгөн суроолордон турган сессиялар тез эле кымбатка туруп калат.
Бул көрүнүш өзгөчө масштабдуу колдонуучулар үчүн кооптуу. Ар бир сессия миңдеген колдонуучулар үчүн кайталанса, компаниянын чыгымы чоң өлчөмгө жетет. Ошондуктан ийгиликтүү иштеген агенттер, адатта, контекстти сактабайт жана конкреттүү тапшырмаларды ыкчам аткарат.
API байланыштары агенттерди натыйжалуу кылбайт
Көпчүлүк компаниялар агентти жөн гана API менен байланышса эле ал бардык тапшырмаларды аткарат деп ишенишет. Бирок бул чоң жаңылыштык. Агент API’ден маалымат алса да, анын жообун түшүнүп, туура чечим кабыл алыш үчүн атайын түзүлгөн логикалык механизмдер керек.
Эгерде инструмент агентке жетиштүү деңгээлде ачык, так жана кыска маалымат бербесе, ал ката кетирип коюшу мүмкүн. Ошондуктан ар бир инструмент кайра байланыш түзө тургандай, структуралашкан жообу менен иштөөгө тийиш. Бул инженердик деңгээлде кылдат иштелип чыгышы керек.
Интеграция чыныгы дүйнөдө чоң тоскоолдук
Реалдуу иш чөйрөсүндө системалар дайыма туруктуу эмес. Ар кандай программалык чектөөлөр, авторизациялык тоскоолдуктар, кызмат көрсөтүүлөрдүн жай иштеши, өзгөрүлмө эрежелер жана юридикалык чектөөлөр агенттерге тоскоол болот. Мындай шартта агенттердин ийгиликтүү иштөөсү мүмкүн эмес.
Бул тоскоолдуктарды жеңүү үчүн системанын архитектурасы реалдуу дүйнөнүн татаалдыгына шайкеш келиш керек. Агент ишти аткарып эле тим болбостон, ар бир кадамда лог жазуусу, ката болсо кайра артка кайтуу механизми жана коопсуздук чаралары болушу шарт. Ансыз автономдуу системалар ишенимдүү болбойт.
Биз буга чейин жазганыбызды эскертебиз, ИИ менен қоркуу синдромунун калыптанышы.
