Жасалма интеллект (ЖИ) бүгүнкү күндө коомдук турмушта чоң роль ойноп, көптөгөн процесстерди автоматташтырууда, анын ичинде контентти модерациялоо жана сунуштоо. Бирок, бул технологиялык прогресс айрым чектөөлөргө да ээ, айрыкча маданий адаптация боюнча. ЖИ көбүнчө англис тилдүү маалыматтарга негизделип окутулат, бул болсо маданий көз карашсыздыкка алып келет. Бул түшүнбөстүктөр маданий нормалардын туура түшүнүлбөөсүнө жана коомдук байланыштарда каталарга себеп болушу мүмкүн.
Бул тууралуу «InoZpress» шилтеме берүү менен билдирди HackerNoon
Күнүмдүк турмушта колдонулган ЖИ системалары негизинен англис тилиндеги маалыматтарга таянып окутулат, бул болсо англис тили негизги эмес болгон өлкөлөрдө алардын колдонулушун кыйындатат. Бул учурда, көпчүлүк ЖИ моделдери моральдык жана маданий категорияларды туура түшүнбөй, контексттерде каталарга алып келет. Мындай каталар көп жолу болгон, мисалы, англис тилине багытталган алгоритмдер катарындагы контентти жаңылыштык менен жок кылып же кайра көрсөтүп коюу сыяктуу каталарга себеп болгон.
Эмне үчүн ЖИ маданий нормаларды туура түшүнбөйт
ЖИ’дин каталарынын себептеринин бири — анын маданий айырмачылыктарды түшүнүү жөндөмүнүн чектелиши. Англис тилинде окутулган моделдер маданий маанилерди, мисалы, урмат, бийликке болгон мамиле же тазалык жана тазалануу түшүнүктөрүн туура түшүнүүдө кыйынчылыктарга туш болушат. Бул түшүнүктөр ар кандай маданияттарда өзгөчөлөнүп, аларды ЖИ’ге түшүндүрүү кыйын болуп калат. Мисалы, улууларга болгон урмат бир маданиятта бийликке болгон сый көрсөтүү катары кабыл алынса, башка маданиятта ал лоялдуулук деп бааланат.
Маданий айырмачылыктарды туура түшүнбөгөндүктөн, ЖИ каталары көп кездешет, өзгөчө контентти модерациялоо жана билим берүү тармагында. Англис тилине багытталган алгоритмдер жергиликтүү маданияттарды жана моралдык нормаларды эске албай, коомчулуктун нааразылыгына жана укуктук көйгөйлөргө алып келет. Мындай каталар көп жолу болгон, мисалы, социалдык тармактарда контенттин жаңылыш блоктолуусу же жактырылышы сыяктуу учурларда.
ЖИ моделдери жана моралдык категорияларды түшүнүү
Жасалма интеллектти изилдөөлөр, ЖИ кандайча моралдык категорияларды түшүнөөрүн көрсөттү. ЖИ моделдери көбүнчө кайрымдуулук жана зыяндан качуу сыяктуу универсалдык моральдык категорияларды жакшы тааныйт. Бирок, маданий жактан өзгөчө категориялар, мисалы, тазалык же бийликке болгон сый, түшүнүүдө кыйынчылыктарды жаратууда. Бир экспериментте ар кыл тилдерде жазылган ырлардын тексттери колдонулуп, ЖИ моделдеринин бул категорияларды канчалык туура аныктай аларын текшеришкен. Натижелер, ЖИ моделдеринин универсалдуу моралдык категорияларды жакшы түшүнгөндүгүн, бирок маданиятка байланыштуу категорияларда кыйынчылыктарга туш болгондугун көрсөттү.
Моделдер, мисалы, мBERT, XLM-R жана GPT-4 ар кандай натыйжаларды көрсөттү. Универсалдуу категориялар үчүн натыйжалар жогору болсо да, маданиятка байланыштуу түшүнүктөргө келгенде алардын тактыгы төмөндөп кетти. Бул ЖИ моделдери, ошол эле учурда, жалпы моралдык принциптерди тааный алат, бирок маданий өзгөчөлүктөрдү эске алуу үчүн жакшыртууну талап кылат.
Маданий көз карашсыздыкты чечүү жолдору
Маданий көз карашсыздыкты чечүү үчүн, ЖИ системаларына маданий өзгөчөлүктөрдү эске алган стандарттар керек. «Маданий интеллект стандартын» киргизүү сунушу ЖИ моделдеринин маданий жана моральдык тууралукту канчалык деңгээлде сактаарын баалоо үчүн маанилүү. Бул стандарттар ЖИ системаларын техникалык жактан күчтүү гана эмес, маданий түшүнүгү бар жана этикалык жактан жоопкерчиликтүү кылууга жардам берет.
ЖИ системалары үчүн көп тилдерде жана ар түрдүү маданий контексттерде маалыматтарды камтыган тренингдерге көбүрөөк инвестиция салуу зарыл. Синтетикалык тексттер жетишсиз, анткени алар чыныгы маданий контексттердин байлыгын чагылдырууда жетишсиз. Ишенимдүү системалар үчүн көптөгөн ар кандай жана чыныгы маалыматтар керек.
Биз буга чейин жазганыбызды эскертебиз, эмне үчүн антропоморфтук ИИ дизайны коом үчүн коркунучтуу болушу мүмкүн.
