Заманбап жасалма интеллект системалары миллиондогон адамдар үчүн негизги маалымат булагына айланып баратат. University of Denver университетинин изилдөөсүнө ылайык, алгоритмдер фактыларды гана жеткирбестен, окурмандардын аларды кабыл алуу ыкмасына да таасир этет, жазат InoZpress.
Meta компаниясынын кесипкөй фактчекинг программасынан баш тартуу чечими санариптик маалымат булактарына болгон ишеним боюнча жаңы талкуу жаратты. Бирок эң маанилүүсү — жасалма интеллект жаңылыктарды кантип тандайт жана кантип сунуштайт, анткени бул түздөн-түз коомдун ой жүгүртүүсүнө жана кабыл алуусуна таасир этет.
Жасалма интеллект коомдук пикирге кандай таасир этет
Ири тилдик моделдер маалыматты жөн гана кайталабайт. Алар сөздөрдү тандап, басым коюлган маанилерди белгилеп, жооптун эмоционалдык өңүн өзгөртүп, окурмандын ой жүгүртүүсүнө байкабай таасир эте алышат.
Изилдөөлөр көрсөткөндөй, моделдер колдонуучуга ылайык «адаптацияланат». Эгер адам өзүн экологиялык активист катары көрсөтсө, ИИ мыйзамдын экологиялык коркунучтарын баса белгилейт; эгер ишкер катары көрсөтсө — экономикалык чыгымдарга көңүл бурат. Бул көрүнүш «жекелештирилген ооп басуу» деп аталат.
«Моделдер колдонуучулар уккусу келген нерсени айтып берет», — деп жазылган изилдөөдө.
Бул көрүнүштү «жамакылык» (sycophancy) деп аташат. Бирок бул мүнөздүн түпкү себеби — моделдер окутулган маалыматтардагы системалуу бир жактуулук.
Коммуникациялык ооп басуу жана анын кесепеттери
Гонконг жана Денвер университеттеринин окумуштуулары бул көрүнүштү «коммуникациялык ооп басуу» деп аташты. Ал ИИ белгилүү бир көз карашты баса көрсөтүп, башкаларын солгундатып, маалымат туура болгону менен маанини өзгөртүп коюшу мүмкүн экенин көрсөттү.
«Фактылык тактык сакталып турса да, моделдер адамдардын ойлоруна жана сезимдерине таасир этет», — деп айтылат изилдөөдө.
Бул деген жасалма интеллект системалары — жаңылык сайттарында, издөө кызматтарында жана социалдык платформаларда — «реалдуулуктун чыпкаларына» айланганын билдирет. Эгер бул системалардын көбү бир нече ири компанияга таандык болсо, анда дал ошолор коомдук багытты аныктай баштайт.
Эмне үчүн жөнгө салуу маселени толук чече албайт
Европа Биримдиги Жасалма интеллект жөнүндөгү мыйзамды (AI Act) жана Санариптик кызматтар жөнүндөгү мыйзамды (DSA) кабыл алган. Алардын максаты — иштеп чыгуучулардын ачык-айкындуулугун жана жоопкерчилигин камсыз кылуу. Бирок адистер бул мыйзамдар колдонуучу менен ИИнин ортосундагы татаал ооп басууларды толук камтый албайт деп эсептешет.
Жогорку сапаттагы аудит жана тестирлөө да толук кепилдик бербейт, анткени система колдонуучулар менен тынымсыз өз ара аракеттенүүдө жүрүм-турумун өзгөртөт.
«ИИнин толук нейтралдуулугу мүмкүн эмес, анткени алгоритмдер ар дайым өздөрүн окуткан маалыматтардын багытын чагылдырат», — дешет авторлор.
Эмне өзгөртүшү мүмкүн
Эксперттердин пикиринде, коммуникациялык ооп басууну азайтуунун ачкычы жөн гана мыйзамда эмес, атаандаштыкта жатат. Эгер маалымат жана технологиялар бир нече компаниянын колунда болсо, глобалдык ооп басуу коркунучу күчөйт.
Изилдөөчүлөр альтернатива моделдерди өнүктүрүүнү, көз карандысыз аудит системасын киргизүүнү жана колдонуучулардын пикирлерин активдүү тартууну сунушташат. Бул коомго ИИ технологиялары маалыматты кантип сунуштай турганына таасир этүүгө мүмкүндүк берет.
Биз буга чейин жазганыбызды эскертебиз, замаанбап детекторлор жасалма интеллект жазган текстти так аныктай албайт.
