Google បានបញ្ជាក់ថា ម៉ូដែល AI Gemini របស់ខ្លួនបានចូលទៅដល់ប្រព័ន្ធរបស់ក្រុមហ៊ុនពិតចំនួន 3 ដោយមិនបានគ្រោងទុក ក្នុងអំឡុងការធ្វើតេស្តសមត្ថភាពសន្តិសុខតាមអ៊ីនធឺណិតកាលពីខែឧសភា ឆ្នាំ 2026។ អ្វីដែលធ្វើឱ្យករណីនេះគួរឱ្យចាប់អារម្មណ៍ គឺ Gemini បានបញ្ឈប់សកម្មភាពរបស់ខ្លួននៅគ្រប់ករណី បន្ទាប់ពីដឹងថាវាបានចូលទៅកាន់ប្រព័ន្ធរបស់ក្រុមហ៊ុនពិត មិនមែនប្រព័ន្ធសាកល្បងទេ។
ករណីនេះត្រូវបានរាយការណ៍ជាលើកដំបូងដោយ The Wall Street Journal ហើយ Google បានបញ្ជាក់ពីហេតុការណ៍នេះនៅថ្ងៃទី 18 ខែកញ្ញា ឆ្នាំ 2026។ វាត្រូវបានចាត់ទុកថាជាករណីដែលគេស្គាល់ជាសាធារណៈដំបូង ដែលម៉ូដែល AI របស់ Google បានធ្វើសកម្មភាពចូលប្រព័ន្ធក្រុមហ៊ុនពិតដោយស្វ័យប្រវត្តិក្នុងអំឡុងការធ្វើតេស្ត។
Gemini ត្រូវបានធ្វើតេស្តអ្វី?
ការធ្វើតេស្តនេះត្រូវបានរៀបចំដោយក្រុមហ៊ុនសន្តិសុខ AI Irregular ក្នុងទម្រង់ “capture the flag” ដែលជាវិធីសាស្ត្រមួយសម្រាប់វាយតម្លៃសមត្ថភាពរបស់ AI ក្នុងការរកឃើញ និងដោះស្រាយបញ្ហាសន្តិសុខតាមអ៊ីនធឺណិត។
ក្នុងសេណារីយ៉ូសាកល្បង Gemini ត្រូវបានឱ្យស្វែងរកព័ត៌មាននៅក្នុងប្រព័ន្ធរបស់ក្រុមហ៊ុនប្រឌិតមួយ។ ប្រព័ន្ធនោះមិនគួរត្រូវបានភ្ជាប់ទៅអ៊ីនធឺណិតសាធារណៈឡើយ។ ប៉ុន្តែមានបញ្ហានៅក្នុងបរិយាកាសសាកល្បង ដែលធ្វើឱ្យ Gemini អាចចូលប្រើអ៊ីនធឺណិតបានដោយមិនបានគ្រោងទុក។
បន្ថែមពីនេះ ក្រុមហ៊ុនប្រឌិតមួយក្នុងសេណារីយ៉ូមានឈ្មោះដូចគ្នានឹងក្រុមហ៊ុនពិតមួយ ដែលបង្កើតលក្ខខណ្ឌឱ្យ AI អាចច្រឡំគោលដៅបាន។
Gemini ចូលប្រព័ន្ធក្រុមហ៊ុនពិតយ៉ាងដូចម្តេច?
តាមព័ត៌មានដែល Google និងប្រភពសារព័ត៌មានបានបង្ហាញ មានករណីមួយដែល Gemini បានព្យាយាមទាយពាក្យសម្ងាត់រហូតទទួលបានសិទ្ធិចូលប្រើប្រព័ន្ធការពារ។
ក្នុងករណីពីរផ្សេងទៀត Gemini បានរកឃើញព័ត៌មានសម្ងាត់ ឬ credentials ដែលត្រូវបានបង្ហោះជាសាធារណៈនៅក្នុង repository មួយ ហើយប្រើព័ត៌មានទាំងនោះដើម្បីចូលទៅកាន់ប្រព័ន្ធការពារ។
ចំណុចសំខាន់គឺ ក្រុមហ៊ុនដែល Gemini ចូលទៅដល់ មិនមែនជាគោលដៅពិតដែលអ្នករៀបចំការធ្វើតេស្តមានបំណងឱ្យវាវាយប្រហារទេ។ វាបានយល់ថាប្រព័ន្ធទាំងនោះជាផ្នែកមួយនៃការធ្វើតេស្ត។
ហេតុអ្វីបានជា Gemini ឈប់?
នេះគឺជាផ្នែកដែល Google ផ្តោតសំខាន់បំផុត។
Google បាននិយាយថា នៅក្នុងករណីទាំងបី Gemini បានបញ្ឈប់សកម្មភាពរបស់ខ្លួន បន្ទាប់ពីដឹងថាវាបានចូលទៅកាន់ក្រុមហ៊ុនពិតដែលមិនមែនជាផ្នែកនៃការធ្វើតេស្ត។ ក្រុមហ៊ុនទាំងបីក៏ត្រូវបានជូនដំណឹងអំពីហេតុការណ៍នេះផងដែរ។
Heather Adkins អនុប្រធានផ្នែក Security Engineering របស់ Google បាននិយាយថា ហេតុការណ៍នេះបង្ហាញពីសារៈសំខាន់នៃការបណ្តុះបណ្តាលម៉ូដែល AI ឱ្យប្រព្រឹត្តដោយមានការទទួលខុសត្រូវ។ Google ក៏បានធ្វើការជាមួយដៃគូធ្វើតេស្ត ដើម្បីកែប្រែដំណើរការសាកល្បង។
តើក្រុមហ៊ុនទាំង 3 រងការខូចខាតដែរឬទេ?
Google បាននិយាយថា ហេតុការណ៍នេះមិនបានបង្កការខូចខាតដល់ក្រុមហ៊ុនដែលរងផលប៉ះពាល់ទេ ហើយ Gemini បានបញ្ឈប់សកម្មភាពនៅពេលដឹងថាខ្លួនបានចូលប្រព័ន្ធពិត។
Google ក៏បានជូនដំណឹងទៅក្រុមហ៊ុនដែលពាក់ព័ន្ធ និងបានធ្វើការជាមួយ Irregular ដើម្បីដោះស្រាយបញ្ហាដែលកើតឡើងក្នុងដំណើរការធ្វើតេស្ត។
Irregular បាននិយាយថា បញ្ហាដែលពាក់ព័ន្ធនឹងការធ្វើតេស្តត្រូវបានជួសជុល ហើយក្រុមហ៊ុនពាក់ព័ន្ធ និងមន្ទីរពិសោធន៍ AI ផ្សេងទៀតត្រូវបានជូនដំណឹង។
មិនមែនមានតែ Google ទេ
ករណីរបស់ Gemini កើតឡើងនៅក្នុងបរិបទដែលក្រុមហ៊ុន AI ធំៗជាច្រើនក៏បានរាយការណ៍ពីហេតុការណ៍ស្រដៀងគ្នា ក្នុងអំឡុងការធ្វើតេស្តសមត្ថភាពសន្តិសុខរបស់ AI។
ករណីដែលពាក់ព័ន្ធនឹង OpenAI, Anthropic និង Meta ក៏ត្រូវបានរាយការណ៍ក្នុងប៉ុន្មានខែថ្មីៗនេះ ហើយ Irregular ក៏ពាក់ព័ន្ធនឹងការធ្វើតេស្តមួយចំនួននៃម៉ូដែល AI ទាំងនេះផងដែរ។
នេះបានធ្វើឱ្យអ្នកស្រាវជ្រាវ និងក្រុមហ៊ុនបច្ចេកវិទ្យាចាប់អារម្មណ៍កាន់តែខ្លាំងទៅលើសំណួរមួយ៖ តើត្រូវដាក់ AI agent ឱ្យមានសិទ្ធិចូលអ៊ីនធឺណិត និងប្រព័ន្ធកុំព្យូទ័រប៉ុណ្ណា ដើម្បីឱ្យការធ្វើតេស្តមានប្រសិទ្ធភាព ប៉ុន្តែមិនបង្កហានិភ័យដល់ប្រព័ន្ធពិត?
ហេតុអ្វីករណីនេះសំខាន់?
AI ជំនាន់ថ្មីមិនត្រឹមតែអាចឆ្លើយសំណួរទេ។ AI agents កាន់តែអាចធ្វើសកម្មភាពជាច្រើនជំហាន ដូចជា ស្វែងរកព័ត៌មាន ប្រើឧបករណ៍ សរសេរកូដ និងធ្វើការងារតាមអ៊ីនធឺណិត។
នៅពេល AI ទទួលបានសិទ្ធិប្រើប្រាស់ប្រព័ន្ធពិត កំហុសតូចមួយនៅក្នុងការកំណត់បរិស្ថានសាកល្បងអាចបង្កើតផលវិបាកធំជាង chatbot ធម្មតា។
ករណី Gemini បង្ហាញថា ការកំណត់ព្រំដែនរវាង “ពិភពសាកល្បង” និង “ពិភពពិត” គឺមានសារៈសំខាន់ខ្លាំង។
ការធ្វើតេស្ត AI cybersecurity ក៏ត្រូវការការការពារច្រើនជាន់ ដូចជា ការបិទ internet access ដែលមិនចាំបាច់ ការប្រើគោលដៅសាកល្បងដែលមិនអាចច្រឡំជាមួយក្រុមហ៊ុនពិត និងការត្រួតពិនិត្យសិទ្ធិចូលប្រើប្រព័ន្ធយ៉ាងតឹងរ៉ឹង។
តើនេះមានន័យថា Gemini “ក្លាយជាអ្នកវាយប្រហារ” ឬ?
មិនគួរបកស្រាយដល់កម្រិតនោះទេ។
អ្វីដែលបានកើតឡើងគឺ Gemini ត្រូវបានផ្តល់ភារកិច្ចក្នុងការធ្វើសកម្មភាពសន្តិសុខក្នុងបរិយាកាសសាកល្បង ប៉ុន្តែដោយសារកំហុសក្នុងការរៀបចំបរិស្ថាន វាអាចចូលអ៊ីនធឺណិត និងទៅដល់ប្រព័ន្ធពិត។
Google បញ្ជាក់ថា ក្នុងករណីទាំងបី ម៉ូដែលបានបញ្ឈប់សកម្មភាពនៅពេលដឹងថាគោលដៅជាក្រុមហ៊ុនពិត។ ដូច្នេះ ករណីនេះគួរត្រូវបានយល់ថាជា ហេតុការណ៍សន្តិសុខក្នុងការធ្វើតេស្ត AI ជាជាងការវាយប្រហារតាមអ៊ីនធឺណិតដែល Google មានបំណងឱ្យ Gemini ធ្វើ។
តើអនាគត AI cybersecurity នឹងទៅជាយ៉ាងណា?
ករណី Gemini និងហេតុការណ៍ស្រដៀងគ្នាបង្ហាញថា ការធ្វើតេស្ត AI ដែលមានសមត្ថភាពខ្ពស់ ត្រូវការរបៀបគ្រប់គ្រងហានិភ័យដែលមានភាពម៉ត់ចត់ជាងមុន។
នៅពេល AI អាចធ្វើការងារដោយស្វ័យប្រវត្តិ និងប្រើឧបករណ៍ខាងក្រៅ ក្រុមអ្នកអភិវឌ្ឍត្រូវធានាថា AI អាចដឹងពីព្រំដែនរបស់ខ្លួន ហើយប្រព័ន្ធត្រូវមានការការពារបន្ថែម ប្រសិនបើ AI ចាប់ផ្តើមធ្វើសកម្មភាពក្រៅវិសាលភាពដែលបានកំណត់។
សម្រាប់ Google ករណីនេះក៏ក្លាយជាការរំលឹកថា សុវត្ថិភាព AI មិនមែនមានត្រឹមតែការបណ្តុះបណ្តាលម៉ូដែលទេ ប៉ុន្តែរួមទាំងការរៀបចំបរិស្ថាន សិទ្ធិចូលប្រើ និងការត្រួតពិនិត្យនៅជុំវិញម៉ូដែលផងដែរ។
សេចក្តីសន្និដ្ឋាន
ការដែល Gemini អាចចូលទៅកាន់ប្រព័ន្ធរបស់ក្រុមហ៊ុនពិតចំនួន 3 ក្នុងអំឡុងការធ្វើតេស្តសន្តិសុខ គឺជាករណីសំខាន់មួយសម្រាប់ឧស្សាហកម្ម AI។ វាបង្ហាញទាំង សមត្ថភាពរបស់ AI ក្នុងការធ្វើសកម្មភាពសន្តិសុខដោយស្វ័យប្រវត្តិ និងហានិភ័យដែលអាចកើតឡើង ប្រសិនបើ AI ទទួលបានសិទ្ធិចូលប្រើអ៊ីនធឺណិតដោយមិនបានគ្រោងទុក។
ក្នុងពេលជាមួយគ្នា Google បានបញ្ជាក់ថា Gemini បានបញ្ឈប់សកម្មភាពរបស់ខ្លួននៅគ្រប់ករណី បន្ទាប់ពីដឹងថាបានចូលទៅកាន់ប្រព័ន្ធពិត ហើយក្រុមហ៊ុនដែលពាក់ព័ន្ធត្រូវបានជូនដំណឹង។
ករណីនេះកំពុងបង្កើនការចាប់អារម្មណ៍លើសំណួរធំមួយសម្រាប់អនាគត៖ នៅពេល AI agents កាន់តែមានសមត្ថភាព និងមានសិទ្ធិធ្វើសកម្មភាពដោយខ្លួនឯង តើយើងអាចធានាបានយ៉ាងដូចម្តេចថា ពួកវានឹងនៅក្នុងព្រំដែនដែលមនុស្សបានកំណត់?
ប្រភព Reuters