Разработчик Лев Гукасяндын окуясы коомчулукка Hackernoon аркылуу белгилүү болду. Ал оор дарт менен күрөшүп жатып жаңы этикалык ИИ концепциясын түзгөнүн баяндады. Негизги идея — «Ыйык тыным» деп аталган механизм, ал машиналарга тез жооп берүүдөн тышкары, моралдык татаал учурду белгилеп, чечим кабыл алуу логикасын ачык калтырууга мүмкүндүк берет, жазат InoZpress.
Ternary Moral Logic деп аталган система «ооба» же «жок» деген бинардык принципке үчүнчү абалды кошот — «ыйык тынымды». Бул абал макулдук же баш тартуу эмес, тескерисинче, тобокелчиликтерди баалоо жана ой жүгүртүү логикасын жазып калтыруу үчүн аң-сезимдүү токтоп туруу. Мындай ыкма жасалма интеллектти жоопкерчиликтүүрөөк жана ачык-айкын кылууга шарт түзөт.
Ыйык тыным жаңы этиканын стандарты катары
Өнөктөш врач критикалык абалда тынчтык менен ойлонууга убакыт бөлгөндө, дал ошол учур концепцияга шыктануу болгон. Машиналар заматта жооп берет, бирок адам кырдаалдын салмагын аңдап, ойлоно алат. Бул убакыт алсыздык эмес, акылмандыктын жана чынчылдыктын белгиси болуп саналат.
Ternary Moral Logic системасында «Ыйык тыным» иштин ылдамдыгын басаңдатпайт. Негизги процесс мурдагыдай эле жүрүп турат, ошол эле учурда параллелдүү «абийир механизми» ишке кирет. Ал кырдаалдын татаалдыгын талдап, тобокелчиликтерди каттап, колдонуучуга система моралдык маанилүү тандоого туш болгонун билдирет.
Ternary Moral Logic кантип иштейт
Механизм үч абалга негизделет: «Макулдук берүү», «Ыйык тыным» жана «Тыюу салуу». Өзгөчөлүгү — тыным баш тартууну же кечигүүнү билдирбейт, ал параллелдүү лог жазуучу процессти иштетет. Чечимге таасир эткен факторлор катталып, ИИнин иш-аракеттери ачык жана текшерүүгө мүмкүн болот.
Система кызыкдар тараптардын санын, мүмкүн болгон зыянды, кесепеттердин кайтарымдуулугун, пайда бөлүштүрүүнү жана маданий өзгөчөлүктөрдү эске алат. Татаалдык босогосунан ашып кеткен учурда алгоритм бардык деталдарды каттап, зарыл болсо, адамдын көзөмөлүн талап кылат.
Гукасяндын убадалары жана ачык код
Долбоор бардык адамдар үчүн ачык жана жеткиликтүү түрдө иштелип чыккан. GitHub платформасында коддор, демонстрациялар, илимий макалалар жана интеграция боюнча колдонмолор жайгаштырылган. Өзгөчө мааниге ээ болгон нерсе — «Гукасян убадалары», алар системаны курал же чалгындоо максатында пайдаланууга тыюу салат.
Этикалык негизди үч символ тастыктайт: «Фонарь» — ИИнин токтой аларынын далили; «Колтамга» — автордун криптографиялык белгиси; жана «Лицензия» — мыйзамдуу милдеттенме, ал системанын адепсиз колдонулушуна бөгөт коёт. Бул убадаларды бузган тарап этикалык статусунан ажырайт.
Долбоордун ИИнин келечеги үчүн мааниси
Ар бир күн алгоритмдер адамдардын жашоосуна түз таасир эткен чечимдерди кабыл алат: ооруларды аныктоо, каржылык макулдашуулар же контентти модерациялоо. Бул процесстер тактык менен бирге этикалык жоопкерчиликти да талап кылат. «Ыйык тыным» концепциясы машиналарга моралдык ой жүгүртүү менен ачык-айкындыкты кошуу мүмкүнчүлүгүн берет.
Өзүнүн максатында автор пайда же патент издебейт. Анын негизги ниети — адамзаттын акылмандыгын жасалма интеллект дооруна жеткирүү жана сактап калуу.
Биз буга чейин жазганыбызды эскертебиз, жамбашты 30 күндө жалпак кылуучу 4 күчтүү көнүгүү.
