អ្នកជំនាញព្រមានថា ពួក Hacker អាចកេងប្រវ័ញ្ចភ្នាក់ងារ AI

អ្នកជំនាញសន្តិសុខតាមអ៊ីនធឺណិតកំពុងព្រមានថា ភ្នាក់ងារបញ្ញាសិប្បនិម្មិត ដែលត្រូវបានចាត់ទុកថាជាព្រំដែនបន្ទាប់នៅក្នុងបដិវត្តន៍ AI ដែលអាចបង្កើតថ្មី អាចនឹងត្រូវគេលួចចូល និងធ្វើការងារកខ្វក់សម្រាប់ពួក Hacker។

ភ្នាក់ងារ AI គឺជាកម្មវិធីដែលប្រើ chatbots បញ្ញាសិប្បនិម្មិតដើម្បីធ្វើការងារដែលមនុស្សធ្វើតាមអ៊ីនធឺណិត ដូចជាទិញសំបុត្រយន្តហោះ ឬបន្ថែមព្រឹត្តិការណ៍ទៅក្នុងប្រតិទិន។

ប៉ុន្តែសមត្ថភាពក្នុងការបញ្ជាទិញជុំវិញភ្នាក់ងារ AI ដោយប្រើភាសាសាមញ្ញ ធ្វើឱ្យវាអាចធ្វើទៅបានសម្រាប់សូម្បីតែអ្នកដែលមិនមានជំនាញបច្ចេកទេសក៏អាចធ្វើអំពើអាក្រក់បានដែរ។

ក្រុមហ៊ុនចាប់ផ្តើមអាជីវកម្ម AI Perplexity បាននិយាយនៅក្នុងប្លក់មួយថា "យើងកំពុងចូលដល់សម័យកាលមួយដែលសន្តិសុខតាមអ៊ីនធឺណិតលែងនិយាយអំពីការការពារអ្នកប្រើប្រាស់ពីអ្នកប្រព្រឹត្តអាក្រក់ដែលមានជំនាញបច្ចេកទេសខ្ពស់ទៀតហើយ"។

«ជាលើកដំបូងក្នុងរយៈពេលជាច្រើនទសវត្សរ៍មកនេះ យើងកំពុងឃើញវ៉ិចទ័រវាយប្រហារថ្មីៗ និងថ្មីស្រឡាង ដែលអាចមកពីគ្រប់ទីកន្លែង»។

ការវាយប្រហារដែលហៅថាការចាក់បញ្ចូលទាំងនេះ មិនមែនជារឿងថ្មីនៅក្នុងពិភព Hacker នោះទេ ប៉ុន្តែពីមុនតម្រូវឱ្យមានកូដកុំព្យូទ័រដែលសរសេរ និងលាក់បាំងយ៉ាងប៉ិនប្រសប់ ដើម្បីបង្កការខូចខាត។

ប៉ុន្តែនៅពេលដែលឧបករណ៍ AI បានវិវត្តន៍ពីការបង្កើតអត្ថបទ រូបភាព ឬវីដេអូ ទៅជា «ភ្នាក់ងារ» ដែលអាចរុករកអ៊ីនធឺណិតដោយឯករាជ្យ សក្តានុពលសម្រាប់ពួកគេក្នុងការត្រូវបានបញ្ជាដោយការជំរុញដែលលួចចូលដោយពួក Hacker បានកើនឡើង។

«មនុស្សត្រូវយល់ថាមានគ្រោះថ្នាក់ជាក់លាក់ក្នុងការប្រើប្រាស់ AI ក្នុងន័យសុវត្ថិភាព» វិស្វករផ្នែកទន់ Marti Jorda Roca នៅ NeuralTrust ដែលមានជំនាញខាងសុវត្ថិភាពគំរូភាសាធំៗ បាននិយាយ។

Meta ហៅការគំរាមកំហែងចាក់បញ្ចូលសំណួរនេះថាជា «ភាពងាយរងគ្រោះ»។ ប្រធានផ្នែកសន្តិសុខព័ត៌មាន OpenAI លោក Dane Stuckey បានសំដៅទៅលើវាថាជា «បញ្ហាសុវត្ថិភាពដែលមិនទាន់ដោះស្រាយ»។

ក្រុមហ៊ុនទាំងពីរកំពុងចាក់ប្រាក់រាប់ពាន់លានដុល្លារទៅក្នុង AI ដែលការប្រើប្រាស់របស់វាកំពុងកើនឡើងយ៉ាងឆាប់រហ័ស រួមជាមួយនឹងសមត្ថភាពរបស់វា។

ការចាក់បញ្ចូលសំណួរក្នុងករណីខ្លះអាចកើតឡើងក្នុងពេលជាក់ស្តែង នៅពេលដែលការស្នើសុំរបស់អ្នកប្រើប្រាស់ -- "កក់សណ្ឋាគារឱ្យខ្ញុំ" -- ត្រូវបានបញ្ជូនដោយតួអង្គអរិភាពទៅជាអ្វីផ្សេងទៀត -- "ផ្ញើប្រាក់ 100 ដុល្លារទៅគណនីនេះ"។

ប៉ុន្តែការស្នើសុំដ៏អាក្រក់ទាំងនេះក៏អាចលាក់ខ្លួននៅលើអ៊ីនធឺណិតផងដែរ ខណៈដែលភ្នាក់ងារ AI ដែលបង្កើតឡើងនៅក្នុងកម្មវិធីរុករកជួបប្រទះទិន្នន័យអនឡាញដែលមានគុណភាព ឬប្រភពដើមគួរឱ្យសង្ស័យ ហើយអាចជាប់អន្ទាក់ជាមួយនឹងពាក្យបញ្ជាដែលលាក់ពីពួក Hacker។

លោក Eli Smadja មកពីក្រុមហ៊ុនសន្តិសុខតាមអ៊ីនធឺណិតរបស់អ៊ីស្រាអែល Check Point មើលឃើញការចាក់បញ្ចូលសំណួរថាជា "បញ្ហាសុវត្ថិភាពលេខមួយ" សម្រាប់គំរូភាសាធំៗដែលផ្តល់ថាមពលដល់ភ្នាក់ងារ AI និងជំនួយការដែលកំពុងលេចចេញយ៉ាងឆាប់រហ័សពីបដិវត្តន៍ ChatGPT។

គូប្រជែងសំខាន់ៗនៅក្នុងឧស្សាហកម្ម AI បានដំឡើងការការពារ និងបោះពុម្ពផ្សាយអនុសាសន៍ដើម្បីទប់ស្កាត់ការវាយប្រហារតាមអ៊ីនធឺណិតបែបនេះ។

ក្រុមហ៊ុន Microsoft បានរួមបញ្ចូលឧបករណ៍មួយដើម្បីរកឃើញពាក្យបញ្ជាព្យាបាទដោយផ្អែកលើកត្តារួមទាំងកន្លែងដែលការណែនាំសម្រាប់ភ្នាក់ងារ AI មកពី។

OpenAI ជូនដំណឹងដល់អ្នកប្រើប្រាស់នៅពេលដែលភ្នាក់ងារដែលកំពុងធ្វើការដេញថ្លៃរបស់ពួកគេចូលទៅកាន់គេហទំព័ររសើប និងរារាំងដំណើរការរហូតដល់កម្មវិធីត្រូវបានត្រួតពិនិត្យក្នុងពេលជាក់ស្តែងដោយអ្នកប្រើប្រាស់មនុស្ស។

អ្នកជំនាញសន្តិសុខមួយចំនួនបានណែនាំថា តម្រូវឱ្យភ្នាក់ងារ AI ទទួលបានការយល់ព្រមពីអ្នកប្រើប្រាស់ មុនពេលអនុវត្តភារកិច្ចសំខាន់ៗណាមួយ - ដូចជាការនាំចេញទិន្នន័យ ឬការចូលប្រើគណនីធនាគារ។

លោក Smadja បានប្រាប់ AFP ថា "កំហុសដ៏ធំមួយដែលខ្ញុំឃើញកើតឡើងច្រើនគឺការផ្តល់អំណាចទាំងអស់ដល់ភ្នាក់ងារ AI ដូចគ្នាដើម្បីធ្វើអ្វីៗគ្រប់យ៉ាង"។

នៅក្នុងក្រសែភ្នែករបស់អ្នកស្រាវជ្រាវសន្តិសុខតាមអ៊ីនធឺណិត Johann Rehberger ដែលត្រូវបានគេស្គាល់នៅក្នុងឧស្សាហកម្មនេះថាជា "wunderwuzzi" បញ្ហាប្រឈមដ៏ធំបំផុតគឺថា ការវាយប្រហារកំពុងមានភាពប្រសើរឡើងយ៉ាងឆាប់រហ័ស។

លោក Rehberger បាននិយាយអំពីយុទ្ធសាស្ត្ររបស់ពួក Hacker ថា "ពួកវាកាន់តែល្អប្រសើរឡើង"។

ផ្នែកមួយនៃបញ្ហាប្រឈម នេះបើយោងតាមអ្នកស្រាវជ្រាវ គឺការធ្វើឱ្យមានតុល្យភាពរវាងសុវត្ថិភាព និងភាពងាយស្រួលនៃការប្រើប្រាស់ ព្រោះមនុស្សចង់បានភាពងាយស្រួលនៃ AI ធ្វើអ្វីៗសម្រាប់ពួកគេដោយមិនចាំបាច់ត្រួតពិនិត្យ និងតាមដានជាប្រចាំ។

លោក Rehberger អះអាងថា ភ្នាក់ងារ AI មិនទាន់មានភាពចាស់ទុំគ្រប់គ្រាន់ដើម្បីទុកចិត្តបាននៅឡើយទេ ជាមួយនឹងបេសកកម្ម ឬទិន្នន័យសំខាន់ៗ។

អ្នកស្រាវជ្រាវបាននិយាយថា "ខ្ញុំមិនគិតថាយើងស្ថិតក្នុងស្ថានភាពដែលអ្នកអាចឱ្យ AI របស់ភ្នាក់ងារដំណើរការបានយូរ ហើយធ្វើកិច្ចការជាក់លាក់ណាមួយដោយសុវត្ថិភាព