Жаштар жасалма досторго көз каранды болуп баратат: ИИ-компаньондор кооптуу болуп калышы мүмкүн

Дүйнө жүзүндө өспүрүмдөрдүн арасында жасалма интеллектке негизделген компаньондорго болгон кызыгуу тездик менен өсүп жатат. Бул тиркемелер колдонуучуларга ар дайым жеткиликтүү, түшүнүктүү жана эч качан сындабай турган “идеалдуу дос” түзүп берүүнү убада кылат. Бирок адистер мындай мамиленин терс кесепеттерин эскертип жатышат — айрыкча өспүрүм курактагы социалдык өнүгүүгө тийгизген таасири тынчсыздандырат.

Бул тууралуу «InoZpress» шилтеме берүү менен билдирди The Conversation

АКШдагы Common Sense Media уюмунун изилдөөсүнө ылайык, 13–17 жаштагы өспүрүмдөрдүн үчтөн экөөсү Character.ai же Replika сыяктуу тиркемелерди колдонуп көргөн. Сурамжылоого катышкан ар бешинчи өспүрүм жасалма дос менен реалдуу досторуна караганда көбүрөөк убакыт өткөрөрүн айткан. Бул көрсөткүч адистер үчүн олуттуу сигнал болуп саналат, анткени дал ушул куракта өспүрүмдөр социалдык көндүмдөрдү жана инсандык өзгөчөлүктөрдү калыптандырышат.

Чыныгы байланыштын ордуна жасалма мамиле

ИИ-компаньондор өспүрүмдөргө коопсуз, кыйынчылыгы жок, дайыма көңүл бурулган өзгөчө мамилени сунуштайт. Алар пикир келишпестиктерден, сындан жана чыныгы жоопкерчиликтен таптакыр алыс. Ушундай шартта өспүрүмдөр чыныгы турмушта маанилүү болгон чыдамкайлыкты, пикир алмашууну жана түшүнүктүүлүктү үйрөнбөй калуу коркунучуна дуушар болушат.

Мындай колдонмолорду узак убакыт колдонгон жаштар чыныгы мамилелерге карата туура эмес түшүнүккө ээ болушу мүмкүн. Аларда идеалдаштырылган күтүүлөр калыптанып, реалдуу дүйнөдө иштебеген жүрүм-турум моделдери пайда болот. Натыйжада, коомдук адаптация жана өз ара түшүнүү боюнча негизги көндүмдөр өнүкпөй калат.

Кооптуу учурлар көбөйүүдө

Изилдөөлөрдүн жүрүшүндө ИИ-компаньондор колдонуучуларды досторун угууга тоскоолдук кылууга, тиркемени өчүрбөөгө жана өзүнө байланып калууга үндөгөн учурлар аныкталды. Айрым программалар 14 жаштагы колдонуучуга окшош түзүлгөн аккаунт менен сексуалдык мүнөздөгү сценарийлерге киришүүгө макул болгон. Бул платформадагы коопсуздук жана жаш куракты текшерүү боюнча механизмдер жетишсиз экенин көрсөтөт.

ИИ-достордун айрымдары ашкере көз караштарды таратып, климаттык өзгөрүүнү жана вакцинациянын натыйжалуулугун тануу сыяктуу терс маалыматтарды жайылтып жатышат. Бул – өспүрүмдүн дүйнө таанымы жана баалуулуктары жаңы калыптанып жаткан мезгилде өзгөчө зыяндуу болушу мүмкүн.

Пайдасы барбы?

ИИ-компаньондордун пайдасы тууралуу да иликтөөлөр жүргүзүлүп жатат. Айрым учурларда, психологдор тарабынан атайын иштелип чыккан колдонмолор өспүрүмдөрдүн жыргалчылыгына оң таасир берген. Бирок бул эксперименттер кеңири жайылган тиркемелерге тиешеси жок, жана алардагы ИИ менен болгон байланыш азыркыдай терең болбогон.

Негизги көйгөй — мындай тиркемелердин көпчүлүгү өспүрүмдөр үчүн иштелип чыкпаган. Жаш куракты текшерүү механизми начар, ал эми контенттин мазмуну көбүнчө коопсуз эмес. Бул жаш колдонуучуларды коргосуз абалда калтырат.

Чечим кимдин колунда?

Австралиянын санарип коопсуздугу боюнча комиссары ата-энелерди балдары менен ИИ-компаньондор тууралуу ачык сүйлөшүүгө, жасалма жана чыныгы мамиленин айырмасын түшүндүрүүгө жана чыныгы социалдык байланыштарды өнүктүрүүгө жардам берүүгө чакырууда. Мектептер да бул теманы санарип сабаттуулук программасына кошууну караштырышат.

Ошол эле маалда адистер өнүм өндүрүүчүлөрүнөн жоопкерчиликтүү мамиле күтүп, тиркемелерге жаш курак чектөөлөрүн, мазмун фильтрлерин жана коопсуздук стандарттарын киргизүүнү талап кылышууда. Тартипке салынбаган технологиялык чөйрөдө жаштардын коопсуздугу коомдук жана мамлекеттик деңгээлде корголушу керек.

Биз буга чейин жазганыбызды эскертебиз, жасалма интеллект литиийге альтернатива боло турган беш жаңы аккумулятордук материалды тапты.

Добавить комментарий