Майкрософт корпораци Azure AI Studio-д хэд хэдэн хамгаалалтын функцийг нэмсэн бөгөөд энэ нь хэрэглэгчид нь хиймэл оюун ухааны загваруудыг хэвийн бус эсвэл зохисгүй үйлдэл хийх горимд оруулах магадлалыг цаг хугацааны явцад бууруулж байх болно. Редмонд байрладаг үндэстэн дамнасан технологийн компани, Вашингтон AI-ийн харилцан үйлчлэлийн бүрэн бүтэн байдлыг баталгаажуулж, хэрэглэгчийн баазад итгэх итгэлийг нэмэгдүүлэхийг онцлон тэмдэглэсэн блог нийтлэлдээ сайжруулалтуудыг дурджээ.
Шуурхай бамбай болон бусад
Томоохон бүтээн байгуулалтуудын дунд хиймэл оюун ухааны чатботуудтай ярилцаж байхдаа шуурхай тарилгыг олж устгахад зориулагдсан технологи болох "шүргэх бамбай" бий болсон явдал юм. Эдгээр нь jailbreak гэж нэрлэгддэг бөгөөд үндсэндээ хиймэл оюун ухааны загваруудаас хүсээгүй хариу үйлдэл үзүүлэхээр санаатайгаар үүсгэсэн хэрэглэгчдийн оролт юм.
Жишээлбэл, Майкрософт хорон муу тушаалуудыг гүйцэтгэх боломжтой шууд бусаар тарилга хийх замаар үүрэг гүйцэтгэж байгаа бөгөөд үүнтэй төстэй хувилбар нь мэдээллийн хулгай, системийг хулгайлах зэрэг аюулгүй байдлын ноцтой үр дагаварт хүргэж болзошгүй юм. Майкрософт компанийн Хариуцлагатай хиймэл оюун ухаан хариуцсан захирал Сара Берд хэлэхдээ, эдгээр цорын ганц аюулыг бодит цаг хугацаанд нь илрүүлж, хариу арга хэмжээ авах механизмууд нь чухал юм.
Майкрософт удахгүй хэрэглэгчийн дэлгэцэн дээр дохиолол гарч ирэх бөгөөд энэ нь загвар өмсөгч нь худал, төөрөгдүүлсэн мэдээлэл өгөх магадлалыг зааж өгөх бөгөөд энэ нь хэрэглэгчдэд илүү ээлтэй, найдвартай байдлыг хангах болно гэж нэмж хэлэв.
AI хэрэгсэлд итгэх итгэлийг бий болгох
Майкрософт-ын хүчин чармайлт нь хувь хүн болон корпорацийн үйлчлүүлэгчдэд чиглэсэн үйлчилгээнд өргөн хэрэглэгдэж байгаа улам бүр түгээмэл болж буй хиймэл хиймэл оюун ухаанд итгэх итгэлийг хүмүүст өгөх зорилготой томоохон санаачлагын нэг хэсэг юм. Майкрософт ийм тохиолдол гарсны дараа нарийн шүдтэй сам хэрэглэж, хэрэглэгчид Copilot чатбот ашиглан хачирхалтай эсвэл хортой гаралт гаргах боломжтой болсон. Энэ нь хиймэл оюун ухааны технологи, түгээмэл мэдлэгийн тусламжтайгаар өсөх магадлалтай дээрх манипуляцийн тактикуудын эсрэг хүчтэй хамгаалалт шаардлагатай байгааг харуулсан үр дүнг дэмжих болно. Урьдчилан таамаглаж, дараа нь саармагжуулах нь халдлагын хэв маягийг хүлээн зөвшөөрөх явдал юм, тухайлбал халдлага үйлдэгч дүрд тоглохдоо асуулт асууж, сануулга өгдөг.
OpenAI-ийн хамгийн том хөрөнгө оруулагч, стратегийн түншийн хувьд Майкрософт хариуцлагатай, аюулгүй үүсгүүрийн хиймэл оюун ухааны технологийг хэрхэн нэгтгэж, бий болгох хил хязгаарыг шахаж байна. Хоёулаа аюулгүй байдлын арга хэмжээг авахын тулд Generative AI-ийг хариуцлагатай байршуулах, суурь загваруудыг хэрэгжүүлэх үүрэг хүлээдэг. Гэвч Берд эдгээр том хэл дээрх загварууд нь ирээдүйн хиймэл оюун ухааны ихэнх шинэчлэлийн үндэс суурь болж байгаа ч гэсэн ямар ч нөлөө үзүүлэхгүй гэдгийг хүлээн зөвшөөрсөн.
Эдгээр суурийг бий болгох нь зөвхөн загварт найдахаас илүү их зүйл шаардагдах болно; AI-ийн аюулгүй байдал, аюулгүй байдлын талаар цогц арга барил хэрэгтэй болно.
Майкрософт саяхан өөрийн Azure AI Studio-ийн аюулгүй байдлын арга хэмжээг чангатгаж, AI-ийн аюул заналхийллийн ландшафтыг хамгаалахын тулд идэвхтэй алхмуудыг үзүүлж, баталгаажуулж байгаагаа зарлав.
Энэ нь хиймэл оюун ухааныг буруугаар ашиглахаас зайлсхийж, дэлгэц, сэрэмжлүүлгийг цаг тухайд нь оруулах замаар хиймэл оюун ухааны харилцан үйлчлэлийн бүрэн бүтэн байдал, найдвартай байдлыг хадгалахыг эрмэлздэг.
AI технологи байнга хувьсан өөрчлөгдөж, өдөр тутмын амьдралдаа нэвтрүүлж байгаа тул Майкрософт болон бусад хиймэл оюун ухааны нийгэмлэг аюулгүй байдлын байр сууриа маш болгоомжтой байлгах цаг нь болсон байх болно.
Эх сурвалж: https://www.cryptopolitan.com/microsoft-ai-chatbot-security-to-tricsters/