Булуттагы технологиялар жана жасалма интеллект күнүмдүк жашоонун бөлүгүнө айланып, чат-ботторду иште, окууда жана жеке баарлашууда колдонуу адаттагы көрүнүшкө айланды. Бирок Hackernoon басылмасы маанилүү суроону көтөрөт: мындай санариптик ишенимдүү байланыштар канчалык коопсуз жана ИИ менен болгон жазышуулар укук коргоо органдарынын колуна түшүшү мүмкүнбү, жазат InoZpress.
Сервис интеллектуалдык жардамчы катары көрсөтүлөт, бирок ошол эле учурда OpenAI ачык мойнуна алган: колдонуучулардын сүйлөшүүлөрү анализденет, ал эми зомбулук же мыйзамсыз аракеттер жөнүндө белгилер байкалса, алар белгиленип, кол менен текшерилип жана тиешелүү кызматтарга өткөрүлүшү мүмкүн. Диалог тарыхын өчүрүү анын толук жок кылынышын кепилдебейт, анткени көчүрмөлөр соттук кароолор үчүн сакталат.
Система модерациясы кантип иштейт
Компания ачык-айкындык жөнүндө жарыялап келет, бирок байкоонун көлөмү жакында гана так белгилүү болду. Эгерде колдонуучу зомбулук же кооптуу аракеттер жөнүндө жазса, сүйлөшүү автоматтык түрдө белгиленип, адистер тарабынан текшерилет. Эгер коркунуч аныкталса, маалыматтар колдонуучуга билдирбестен укук коргоо органдарына жөнөтүлөт.
Айрыкча, өчүрүлгөн сүйлөшүүлөр дагы базага сакталары тынчсыздандырат. Соттук чечимдер мындай логдорду сактоону милдеттендирди, бул болсо чаттагы каалаган маалымат кийинчерээк колдонуучунун өзүнө каршы пайдаланылышы мүмкүн экенин билдирет.
Практикадан мисал
2023-жылдын декабрында Лас-Вегаста Tesla Cybertruck жардырууну пландаган деп шектелген эркек киши кармалган. Иш материалдарынан тергөө органдары анын ChatGPT аркылуу болгон жазышууларына ээ болгону белгилүү болду. Бот жарылуучу заттарды даярдоого байланышкан суроолорго жооп берүүдөн баш тарткан, бирок суроолордун тарыхынын өзү иликтөөнүн бөлүгү болуп калды.
Бул окуя эксперттик чөйрөдө чоң талкуу жаратты. Негизги жыйынтык мындай болду: ИИ коркунучтуу суроолорду аткаруудан баш тарткан учурда да, бардык контент сакталат жана бийликтин көзөмөлүнө түшүшү мүмкүн.
Эмне үчүн бул тынчсыздандырат
Адистер бир нече негизги жагдайларды белгилешет:
- ChatGPT менен жазышуулар дарыгердик сыр же адвокаттык купуялуулук макамына ээ эмес;
- стресс абалында берилген суроолор өзүн-өзү айыптоого алып келиши мүмкүн;
- система маалыматтардын блоктолгону же өткөрүлгөнү жөнүндө эскертпейт;
- тарыхты өчүрүү анын толук жок кылынышын билдирбейт.
Бул фактылар санариптик жардамчыны толугу менен коопсуз аянт катары кабыл алуу жаңылыш экенин көрсөтөт.
Колдонуучулар үчүн тобокелдикти азайтуу
Макалада бир катар практикалык кадамдар сунушталат. Баарынан мурда суроолорду кылдат ойлонуп берүү зарыл, айрыкча жеке турмуштагы көйгөйлөргө же талаштуу темаларга байланыштуу болсо. Корпоративдик ChatGPT версиясында маалымат сакталбаган Zero Data Retention режими бар. Ошондой эле тарыхты өчүрүү функциясы колдонууга жеткиликтүү.
Медициналык, укуктук же эмоционалдык оор маселелер боюнча адиске түз кайрылуу ИИге караганда коопсузураак болуп саналат. Мындай ыкма купуя маалыматтын кокусунан чыгып кетүү коркунучун азайтат.
Жасалма интеллекттин кош мүнөзү
ChatGPT эң натыйжалуу санариптик инструменттердин бири бойдон калууда, ал ишти тездетип, окууга жардам берип жана чыгармачыл долбоорлорду колдой алат. Бирок пайдалуу жактары менен катар коркунуч да бар: система жабык байланыш эмес экенин түшүнүү зарыл.
ИИ колдонуучуга жардамчы боло алат, бирок ошол эле учурда көзөмөл функцияларын да сактап калат. Ар бир билдирүү жазылып жана кайра каралышы мүмкүн, бул болсо ишенимдүү көрүнгөн интерфейсти эс-тутуму бар күзгү жана микрофонго айлантат.
Биз буга чейин жазганыбызды эскертебиз, татаал маалыматтарды жеткиликтүү кылган жаңы ачык булак куралы.