Танай байгууллагад гадны алгоритмын үнэлгээчид хэрэгтэй болох 3 шалтгаан

Сатта Сарма-Хайтоуэр

Бизнесийн удирдагчид хиймэл оюун ухаанаас (AI) чадах бүх үнэ цэнийг шахаж байна. KPMG-ийн 2021 оны судалгаагаар олдлоо Засгийн газар, аж үйлдвэрийн үйлдвэрлэл, санхүүгийн үйлчилгээ, жижиглэн худалдаа, амьдралын шинжлэх ухаан, эрүүл мэндийн салбарын удирдагчдын дийлэнх нь хиймэл оюун ухаан нь тэдний байгууллагад ядаж дунд зэргийн ажиллагаатай гэж үздэг.. Мөн судалгаанд оролцогчдын тал хувь нь тэдний байгууллага Ковид-19 тахлын эсрэг хиймэл оюун ухааныг нэвтрүүлэх ажлыг түргэсгэсэн гэж хэлжээ. AI-г нэвтрүүлсэн байгууллагуудын дор хаяж тал хувь нь технологи нь хүлээлтээс давсан гэж үздэг.

AI алгоритмууд нь орчин үеийн олон төрлийн харилцан үйлчлэл, шинэчлэлийг хариуцаж байна. бүтээгдэхүүний зөвлөмж болон харилцагчийн үйлчилгээ банкуудад өгсөн туршлага зээл олгох шийдвэр , тэр ч байтугай цагдаагийн хариу үйлдэл.

Гэвч тэдний санал болгож буй бүх давуу талуудын хувьд AI алгоритмууд нь уян хатан байдал, шударга байдал, тайлбарлах боломжтой, шударга байдлыг үр дүнтэй хянаж, үнэлээгүй тохиолдолд том эрсдэлтэй байдаг. Бизнесийн удирдагчдад хиймэл оюун ухааныг хянах, үнэлэхэд нь туслахын тулд дээр дурдсан судалгаанаас харахад a Байгууллагуудад зөв технологи, бизнесийн үйл явцад хөрөнгө оруулах боломжийг олгохын тулд хиймэл оюун ухааныг зохицуулахыг засгийн газраас хүсч буй бизнесийн удирдагчдын тоо нэмэгдэж байна. Шаардлагатай дэмжлэг, хяналтыг авахын тулд ийм үйлчилгээ үзүүлэх туршлагатай үйлчилгээ үзүүлэгчийн санал болгож буй хөндлөнгийн үнэлгээг авч үзэх нь ухаалаг хэрэг юм. Энд гурван шалтгаан байна.

1. Алгоритмууд бол “Хар хайрцаг”

Асуудлыг шийдвэрлэх, даалгаврыг оновчтой болгохын тулд өгөгдлөөс суралцдаг хиймэл оюун ухааны алгоритмууд нь системийг илүү ухаалаг болгож, хүн төрөлхтний хийж чадахаас хамаагүй хурдан ойлголтыг цуглуулж, бий болгох боломжийг олгодог.

Гэсэн хэдий ч зарим оролцогч талууд эдгээр алгоритмуудыг "хар хайрцаг" гэж үздэг гэж мэргэжлийн үйлчилгээний тэргүүлэх компани болох KPMG-ийн аудит хариуцсан захирал Дрю Розен тайлбарлав. Тодруулбал, зарим оролцогч талууд алгоритм нь тодорхой шийдвэрт хэрхэн хүрсэнийг ойлгохгүй байгаа тул шийдвэрийн шударга, үнэн зөв гэдэгт итгэлгүй байж болно.

Розен хэлэхдээ "Алгоритмоос олж авсан үр дүн нь үр дүнг буруугаар тайлбарлаж, буруугаар тайлбарлаж болно." "Энэ нь тухайн байгууллагын үр дүнг ашиглаж, олон нийт болон сонирхогч талуудтай хуваалцах үед зарим эрсдэлд хүргэж болзошгүй юм."

Жишээлбэл, алдаатай өгөгдөл ашигладаг алгоритм нь хамгийн сайндаа үр дүнгүй, хамгийн муудаа хор хөнөөлтэй байдаг. Энэ нь практик дээр ямар харагдаж болох вэ? Хэрэглэгчдэд дансны буруу мэдээлэл өгдөг хиймэл оюун ухаанд суурилсан чатбот эсвэл текстийг буруу орчуулдаг хэлний орчуулгын автомат хэрэгслийг авч үзье. Энэ хоёр тохиолдол нь төрийн байгууллага, компаниуд, түүнчлэн эдгээр алгоритмуудын гаргасан шийдвэрт тулгуурладаг бүрэлдэхүүн хэсэг болон үйлчлүүлэгчдэд ноцтой алдаа, буруу тайлбар өгөхөд хүргэж болзошгүй юм.

Хар хайрцагны асуудалд хувь нэмрээ оруулж буй өөр нэг зүйл бол хиймэл оюун ухааны загваруудын хөгжилд төрөлхийн хэвийх хандлага нэвтэрч, өрөөсгөл шийдвэр гаргахад хүргэж болзошгүй юм. Зээлийн зээлдүүлэгчид зээл олгох шийдвэр гаргахын тулд боломжит зээлдэгчийн зээлийн чадварыг урьдчилан таамаглахын тулд хиймэл оюун ухааныг улам бүр ашигладаг. Гэсэн хэдий ч боломжит зээлдэгчийн зээлийн оноо гэх мэт хиймэл оюун ухаанд гол орц оруулах үед эрсдэл үүсч болзошгүй. материаллаг алдаатай байна, тэдгээр иргэдэд зээл олгохоос татгалзсан.

Энэ нь алгоритмыг дэмжсэн түүхэн өгөгдөл, таамаглалуудын хамаарал, найдвартай байдлын талаар хүлээн зөвшөөрөгдсөн шалгуурт үндэслэн төвлөрсөн үнэлгээ өгөх, шударга үнэлэгчийн үүргийг гүйцэтгэж чадах хөндлөнгийн үнэлгээчний хэрэгцээг онцолж байна.

2. Оролцогч талууд болон зохицуулагчид ил тод байхыг шаарддаг

2022 онд хариуцлагатай хиймэл оюун ухаанд тайлагнах одоогийн шаардлага байхгүй. Гэсэн хэдий ч Розен хэлэхдээ, "Удирдах байгууллагууд ESG [байгаль орчин, нийгэм, засаглалын] зохицуулалтыг хэрхэн нэвтрүүлсэнтэй адил. ESG-ийн тодорхой хэмжүүрүүдийн талаар мэдээлэх, хариуцлагатай хиймэл оюун ухаанд зориулсан нэмэлт зохицуулалтын тайлагнах шаардлагыг бид харж байгаа нь цаг хугацааны асуудал юм.

Үнэн хэрэгтээ, 1 оны 2023-р сарын XNUMX-ээс эхлэн Нью-Йорк хотын Орон нутгийн хууль 144 Хөдөлмөр эрхлэлтийн шийдвэрийн автоматжуулсан хэрэглүүрийг ашиглахаас өмнө хэвийсэн аудит хийх шаардлагатай.

Мөн холбооны түвшинд, 2020 оны Үндэсний хиймэл оюун санаачилгын тухай хууль- энэ нь дээр тулгуурладаг 2019 оны гүйцэтгэх тушаал— хиймэл оюун ухааны техникийн стандарт, зааварчилгаанд анхаарлаа хандуулдаг. Үүнээс гадна, Алгоритмын хариуцлагын тухай хууль автоматжуулсан шийдвэрийн систем болон сайжруулсан чухал шийдвэрийн үйл явцын нөлөөллийн үнэлгээг шаардаж болно. Мөн хилийн чанадад Хиймэл оюун ухааны тухай хууль AI-ийн аюулгүй байдал, дагаж мөрдөх, засаглал, найдвартай байдлын талаар тодорхой зорилт бүхий цогц зохицуулалтын тогтолцоог санал болгож байна.

Эдгээр өөрчлөлтүүдээр байгууллагууд засаглалын микроскопийн дор байдаг. Алгоритм үнэлгээч нь оролцогч талууд буруугаар тайлбарлах, эрсдэлд оруулах эрсдэлээс зайлсхийхийн зэрэгцээ зохицуулалтын шаардлагыг хангаж, оролцогч талуудын ил тод байдлыг сайжруулах ийм тайланг гаргаж болно. төөрөгдүүлсэн үнэлгээний үр дүнгээр.

3. Компаниуд урт хугацааны эрсдэлийн менежментээс ашиг хүртдэг

KPMG-ийн технологийн баталгаажуулалтын практикийн түнш Стив Камара нь аж ахуйн нэгжүүд үйл явцыг автоматжуулж, хэрэглэгчийн туршлагыг сайжруулсан инновацийг хөгжүүлж, AI хөгжлийг бизнесийн чиг үүргүүдэд түгээснээр хиймэл оюун ухаанд хөрөнгө оруулалт нэмэгдэнэ гэж таамаглаж байна. Өрсөлдөх чадвартай, ашиг орлоготой байхын тулд байгууллагууд хиймэл оюун ухааны нэн даруй дутагдлыг арилгахаас гадна хиймэл оюун ухаанаар тэжээгддэг бизнесийн үйл ажиллагаатай холбоотой урт хугацааны эрсдэлийг бууруулах үр дүнтэй хяналт хэрэгтэй болно.

Энд хөндлөнгийн үнэлгээчид итгэмжлэгдсэн, ухаалаг эх сурвалж болж ажилладаг. Байгууллагууд AI-ийн шударга байдлыг бизнесийг идэвхжүүлэгч болгон хүлээн авах тусам хамтын ажиллагаа нь түр зуурын үйлчилгээ биш, тогтвортой хамтын ажиллагаа болж магадгүй гэж Камара тайлбарлав.

"Хиймэл оюун ухааныг байнга хөгжүүлж, ажиллуулж буй байгууллагууд болон хөндлөнгийн бодит үнэлгээчний хооронд тасралтгүй харилцаатай байх шаардлагатай цаашдын арга замыг бид харж байна" гэж тэр хэлэв.

Дараа нь юу болохыг харах

Ирээдүйд байгууллагууд шинэ загвар боловсруулах, мэдээллийн шинэ эх сурвалжийг ашиглах, гуравдагч талын борлуулагчийн шийдлүүдийг нэгтгэх эсвэл дагаж мөрдөх шинэ шаардлагуудыг эрэлхийлэх зэрэгт хөндлөнгийн үнэлгээг илүү мөчлөгийн үндсэн дээр ашиглаж болно.

Зохицуулалт болон дагаж мөрдөх нэмэлт шаардлагууд тавигдсан тохиолдолд хөндлөнгийн үнэлгээчид тухайн байгууллага эдгээр шаардлагын дагуу хиймэл оюун ухааныг хэр сайн нэвтрүүлсэн эсвэл ашигласан эсэхийг шууд үнэлэх үйлчилгээ үзүүлэх боломжтой. Дараа нь эдгээр үнэлгээчид үнэлгээний үр дүнг тодорхой бөгөөд тууштай хуваалцахад хамгийн сайн байр суурьтай байх болно.

Технологийг ашиглахын зэрэгцээ түүний хязгаарлалтаас хамгаалахын тулд байгууллага нь алгоритмыг ашиглахдаа илүү ил тод байдлыг харуулахын тулд тайлан гаргахын тулд хөндлөнгийн үнэлгээчдийг хайх ёстой. Тэндээс байгууллага болон оролцогч талууд хиймэл оюун ухааны хүч чадал, түүний хязгаарлалтыг илүү сайн ойлгож чадна.