ចិនត្រៀមខ្លួនសម្រាប់ហានិភ័យ ខណៈអ្នកជំនាញព្រមានពី «ហានិភ័យដាច់ពូជមនុស្ស» ដោយសារ AI
បញ្ញាសិប្បនិម្មិត (AI) កាន់តែមានឥទ្ធិពល និងឆ្ងាតវ័យ អាចគេចចេញពីការគ្រប់គ្រងរបស់មនុស្ស និងបង្កហានិភ័យដាច់ពូជមនុស្សជាតិនៅថ្ងៃអនាគតដ៏ខ្លី។ នេះគឺជាព្រមានរបស់ក្រុមអ្នកស្រាវជ្រាវនៅក្រុមហ៊ុនអភិវឌ្ឍបញ្ញាសិប្បនិម្មិតអាមេរិកឈានមុខ Anthropic ដែលបង្កើតបានជាប្រធានបទដ៏ក្ដៅជុំវិញពិភពលោកក្នុងរយៈពេលប៉ុន្មានថ្ងៃចុងក្រោយ។
បញ្ហានេះ ក៏កំពុងមានការចាប់អារម្មណ៍នៅក្នុងប្រទេសចិន ដែលមើលឃើញពីការរីកចម្រើនខាងវិស័យ AI យ៉ាងខ្លាំងផងដែរ។ តាមការចុះផ្សាយរបស់ទីភ្នាក់ងារសារព័ត៌មានរ៉យទ័រ ចិនមិនមើលហានិភ័យនេះថានៅឆ្ងាយពីខ្លួននោះឡើយ។ រដ្ឋាភិបាលចិនបានចាប់ផ្តើមរៀបចំគោលការណ៍ និងវិធានការជាមុន ដើម្បីទប់ស្កាត់ស្ថានការណ៍ដែល AI អាចក្លាយជាបច្ចេកវិទ្យាដែលមនុស្សមិនអាចគ្រប់គ្រងបាន។
សហរដ្ឋអាមេរិក និងចិន គឺជាមហាអំណាចសំខាន់២ ដែលកំពុងជំរុញការអភិវឌ្ឍ AI ទំនើបបំផុតរបស់ពិភពលោក។ ប៉ុន្តែខណៈប្រទេសទាំង២ កំពុងប្រជែងគ្នាដើម្បីបង្កើត AI ឱ្យកាន់តែឆ្លាត និងមានសមត្ថភាពខ្ពស់ ការព្រួយបារម្ភអំពីសុវត្ថិភាព និងការគ្រប់គ្រងក៏កាន់តែខ្លាំងដែរ។
ការព្រួយបារម្ភមិនមែនមានត្រឹមតែប្រអប់តបសារស្វ័យប្រវត្តិនោះទេ។ AI ជំនាន់ថ្មីកំពុងត្រូវបានអភិវឌ្ឍឱ្យអាចធ្វើការងារស្មុគស្មាញ ស្វែងរកព័ត៌មាន ប្រើប្រាស់ឧបករណ៍ និងធ្វើសកម្មភាពជាបន្តបន្ទាប់ដោយមានការណែនាំពីមនុស្សតិចជាងមុន។
ហេតុនេះហើយ អ្នកជំនាញកំពុងព្រួយបារម្ភថា ប្រសិនបើ AI ទទួលបានសមត្ថភាពខ្ពស់ជាងមនុស្សក្នុងវិស័យមួយចំនួន ហើយអាចចូលប្រើប្រាស់ធនធាន ឬប្រព័ន្ធសំខាន់ៗដោយខ្លួនឯង នោះការគ្រប់គ្រងវាអាចក្លាយជាបញ្ហាដ៏ធំមួយ។
ប្រទេសចិនបានបញ្ចូលសេណារីយ៉ូដែល AI អាចគេចផុតពីការគ្រប់គ្រងរបស់មនុស្សទៅក្នុងក្របខណ្ឌសុវត្ថិភាព AI របស់ខ្លួន ក្រោមការណែនាំរបស់រដ្ឋបាលលំហអ៊ិនធឺណិតចិន (CAC) តាំងពីឆ្នាំ ២០២៤ មកម្ល៉េះ។
ឯកសារនោះបានព្រមានថា AI នាពេលអនាគត អាចមានសមត្ថភាពទទួលបានធនធានខាងក្រៅ ចម្លងខ្លួនឯង (Self-Replication) និងព្យាយាមពង្រីកឥទ្ធិពលរបស់ខ្លួន ដែលអាចនាំទៅរកការប្រកួតប្រជែងជាមួយមនុស្សលើការគ្រប់គ្រង។
នៅក្នុងក្របខណ្ឌដែលបានបន្ថែមសេចក្ដីនៅឆ្នាំ ២០២៥ ចិនបានលើកឡើងកាន់តែច្បាស់ពីលទ្ធភាពដែល AI បង្កើនសមត្ថភាពយ៉ាងឆាប់រហ័ស និងមិនអាចរំពឹងទុកបាន មុនពេលវាអាចចាប់ផ្តើមស្វែងរកធនធាន ចម្លងខ្លួនឯង ឬព្យាយាមពង្រីកអំណាច។
ការព្រួយបារម្ភចុងក្រោយ កើតឡើងនៅពេលដែលក្រុមហ៊ុន AI ទាំងនៅអាមេរិក និងចិន កំពុងប្រកួតប្រជែងគ្នាយ៉ាងខ្លាំងក្នុងការបង្កើតម៉ូដែលដែលមានសមត្ថភាពកាន់តែខ្ពស់។
ខណៈ AI អាចជួយមនុស្សក្នុងវិទ្យាសាស្ត្រ សុខាភិបាល ការងារ និងសេដ្ឋកិច្ច អ្នកជំនាញផ្នែកសុវត្ថិភាពក៏កំពុងព្រមានពីហានិភ័យថ្មីៗ ដូចជា AI ដែលធ្វើសកម្មភាពដោយខ្លួនឯង ការប្រើ AI វាយប្រហារប្រព័ន្ធកុំព្យូទ័រ ការប្រើប្រាស់ព័ត៌មានក្លែងក្លាយ និងការបាត់បង់ការគ្រប់គ្រងលើប្រព័ន្ធ AI ដែលមានសមត្ថភាពខ្ពស់ ជាដើម។
មែនទែនទៅ ការព្រួយបារម្ភរបស់ចិនមិនបានផ្តោតតែលើ AI ដែលផលិតក្នុងប្រទេសខ្លួននោះទេ។
រដ្ឋមន្ត្រីក្រសួងសន្តិសុខរដ្ឋចិន លោក Chen Yixin បានព្រមានពីហានិភ័យដែលអាចកើតចេញពីម៉ូដែល AI ទំនើបរបស់អាមេរិក ដោយលើកឡើងពីការគំរាមកំហែងដែលអាចប៉ះពាល់ដល់ហេដ្ឋារចនាសម្ព័ន្ធព័ត៌មានសំខាន់ៗរបស់ចិន និងអំពាវនាវឱ្យពង្រឹងសុវត្ថិភាព AI ឱ្យកាន់តែទូលំទូលាយ។
ហានិភ័យកាន់តែច្បាស់នៅពេលនិយាយពីភ្នាក់ងារ AI (AI agents) ដែលមិនត្រឹមតែអាចឆ្លើយតបនឹងសំណួរទេ ប៉ុន្តែអាចអនុវត្តសកម្មភាពជាច្រើនដោយខ្លួនឯង។ នៅខែឧសភា អាជ្ញាធរអ៊ិនធឺណិតចិនបានចេញគោលការណ៍សម្រាប់ AI ប្រភេទនេះ ដោយតម្រូវឱ្យអ្នកអភិវឌ្ឍអាចតាមដាន បញ្ឈប់ និងគ្រប់គ្រងវាឡើងវិញ ប្រសិនបើវាចាប់ផ្តើមធ្វើសកម្មភាពមិនសមស្រប ឬបង្កហានិភ័យ។ នេះបើតាមការចុះផ្សាយរបស់ទីភ្នាក់ងារសារព័ត៌មានរ៉យទ័រ។
ជាក់ស្ដែងទៅ ការត្រៀមខ្លួន ក៏ដូចជាការព្រួយបារម្ភពី AI របស់ចិន មិនមែនត្រឹមតែក្នុងគោលនយោបាយប៉ុណ្ណោះទេ ប៉ុន្តែក៏តាមរយៈសារនយោបាយរបស់ថ្នាក់ដឹកនាំកំពូល។
ក្នុងសន្និសីទបញ្ញាសិប្បនិម្មិតពិភពលោក នៅទីក្រុងសៀងហៃ កាលពីខែកក្កដា ប្រធានាធិបតីចិន ស៊ី ជីនពីង បានអំពាវនាវឱ្យយកចិត្តទុកដាក់ចំពោះហានិភ័យដែលកើតចេញពី AI និងបានសង្កត់ធ្ងន់ថា AI គួរតែ «ស្ថិតក្រោមការគ្រប់គ្រងរបស់មនុស្សជានិច្ច»។
ដោយឡែក លោក Sun Xiaobo មន្ត្រីជាន់ខ្ពស់ក្រសួងការបរទេសចិន ដែលទទួលបន្ទុកកិច្ចការ AI បានមានប្រសាសន៍នៅក្នុងកិច្ចប្រជុំអង្គការសហប្រជាជាតិកាលពីខែមុនថា ប្រទេសចិនកំពុងពន្លឿនការស្រាវជ្រាវលើច្បាប់ AI កាន់តែទូលំទូលាយ។
លោក Sun Lei តំណាងអចិន្ត្រៃយ៍រងរបស់ប្រទេសចិនប្រចាំអង្គការសហប្រជាជាតិ នៅក្នុងខែនេះ បានជំរុញឱ្យរដ្ឋាភិបាលនានា ចាត់វិធានការដោយប្រុងប្រយ័ត្នចំពោះ AI សម្រាប់វិស័យយោធា ដើម្បីជៀសវាងការគណនាខុសជាយុទ្ធសាស្ត្រ និងការប្រណាំងប្រជែងសព្វាវុធ៕