Аюулгүй байдлын мэргэжилтэн Бар Ланядо сүүлийн үед хиймэл оюун ухаант загварууд програм хангамж хөгжүүлэлтийн ертөнцөд аюул заналхийлэхэд хэрхэн санамсаргүйгээр хувь нэмрээ оруулдаг талаар судалгаа хийжээ. Ланядогийн хийсэн ийм судалгаа нь аймшигтай чиг хандлагыг олж илрүүлсэн: AI нь хуурамч программ хангамжийн багцуудыг санал болгодог бөгөөд хөгжүүлэгчид өөрсдөө ч мэдэлгүй кодын сандаа оруулдаг.
Асуудлыг нээлээ
Асуудал нь үүсгэсэн шийдэл нь хиймэл нэр буюу хиймэл оюун ухааны ердийн зүйл байсан явдал юм. Гэсэн хэдий ч эдгээр хуурамч багцын нэрийг AI загваруудыг програмчлахад бэрхшээлтэй байгаа хөгжүүлэгчдэд итгэлтэйгээр санал болгодог. Үнэн хэрэгтээ зарим нэг багцын нэрсийг Ланядо гэх мэт хүмүүст хэсэгчлэн үндэслэсэн байдаг бөгөөд зарим нь урагшилж, жинхэнэ багц болгон хувиргасан. Энэ нь эргээд бодит болон хууль ёсны програм хангамжийн төслүүдэд хортой байж болзошгүй кодыг санамсаргүйгээр оруулахад хүргэсэн.
Энэ нөлөөнд унасан бизнесүүдийн нэг нь технологийн салбарын томоохон тоглогчдын нэг Алибаба байв. GraphTranslator программыг суулгах зааварт Ланядо Алибаба хуурамчаар хийгдсэн "huggingface-cli" багцыг оруулсан болохыг олж мэдсэн. Үнэндээ Python багцын индекс (PyPI) дээр ижил нэртэй жинхэнэ багц байсан боловч Алибабагийн гарын авлагад Ланядогийн хийсэн багцыг дурдсан байдаг.
Тууштай байдлыг шалгаж байна
Ланядогийн судалгаа нь хиймэл оюун ухаанаар үүсгэгдсэн эдгээр багц нэрсийн урт наслалт болон ашиглалтын боломжит байдлыг үнэлэх зорилготой юм. Энэ утгаараа LQuery нь эдгээр зохиомол нэрийг системтэй, үр дүнтэй санал болгосон эсэхийг ойлгох явцад програмчлалын сорилтууд болон хэл хоорондын AI-ийн тодорхой загваруудыг хэрэгжүүлсэн. Энэхүү туршилтаар хортой байгууллагууд хиймэл оюун ухаанаар үүсгэсэн багцын нэрийг урвуулан ашиглаж, хортой программ хангамж түгээх эрсдэлтэй болох нь тодорхой байна.
Эдгээр үр дүн нь гүн гүнзгий нөлөө үзүүлдэг. Муу жүжигчид хөгжүүлэгчдийн хүлээн авсан зөвлөмжид өгсөн харалган итгэлийг ашиглаж, хуурамч нэрийн дор хортой багцыг нийтэлж эхлэх боломжтой. AI загваруудын хувьд зохион бүтээгдсэн багцын нэрсийн хувьд хиймэл оюун ухааны талаар тууштай зөвлөмж өгснөөр эрсдэл нэмэгддэг бөгөөд үүнийг мэдэхгүй хөгжүүлэгчид хорлонтой програм болгон оруулдаг. **Урагшлах зам**
Тиймээс хиймэл оюун ухаан нь програм хангамжийн хөгжилд улам бүр нэгдэхийн хэрээр хиймэл оюун ухаанаас бий болгосон зөвлөмжүүдтэй холбогдсон тохиолдолд эмзэг байдлыг засах шаардлага гарч ирж магадгүй юм. Ийм тохиолдолд нэгтгэхээр санал болгож буй програм хангамжийн багц хууль ёсны байхын тулд зохих шалгалтыг хийх ёстой. Цаашилбал, энэ нь програм хангамжийн агуулахыг байршуулах платформыг шалгаж, хангалттай хүчтэй байх ёстой бөгөөд хортой чанарын кодыг тараахгүй байх ёстой.
Хиймэл оюун ухаан ба программ хангамж хөгжүүлэлтийн огтлолцол нь аюулгүй байдлын аюул заналыг нээлээ. Түүнчлэн AI загвар нь хуурамч програм хангамжийн багцыг санамсаргүйгээр санал болгоход хүргэж болзошгүй бөгөөд энэ нь програм хангамжийн төслүүдийн бүрэн бүтэн байдалд ихээхэн эрсдэл учруулдаг. Алибаба заавардаа хэзээ ч байх ёсгүй хайрцгийг оруулсан нь хүмүүс зөвлөмжийг роботоор дагаж мөрдвөл хэрхэн боломж гарч болохыг нотлох баримт юм.
AI өгсөн. Ирээдүйд програм хангамж боловсруулахад хиймэл оюун ухааныг буруугаар ашиглахаас урьдчилан сэргийлэхийн тулд идэвхтэй арга хэмжээнүүдэд сонор сэрэмжтэй байх шаардлагатай.
Эх сурвалж: https://www.cryptopolitan.com/ai-generated-software-packages-threats/