Хиймэл оюун ухааны ёс суртахуун нь ёс суртахууны хувьд хор хөнөөлтэй бүрэн бие даасан системийг барьж авах, устгахын тулд хиймэл оюун ухааныг агнах урамшуулал санал болгох нь ухаалаг хэрэг үү, эсвэл дэмий зүйл үү гэдгийг маш болгоомжтой үнэлдэг.

Хүссэн: Хиймэл оюун санааны ангуучид.

Энэ нь та олон нийтийн мэдээллийн сувгууд дээр гарч, янз бүрийн онлайн ажлын зарууд дээр гарч ирэх орчин үеийн зар сурталчилгаа байж магадгүй юм. Энэ бол харьцангуй шинэ ойлголт эсвэл үүрэг юм. Энэ нь маргаан дагуулдаг. Зарим халуун итгэгчид энэ нь маш их утга учиртай бөгөөд бүх л үед тохиолдох ёстой байсан гэж ширүүн маргаж байхад зарим нь толгойгоо нухацтай хөдөлгөж байгаа бөгөөд энэ нь сайн санаа гэдэгт тийм ч итгэлтэй биш байна.

Энэ үүргийн гол агуулга нь хиймэл оюун ухаанаас аливаа далд хэвшмэл ойлголт, ялгаварлан гадуурхах дадал зуршлыг арилгах явдал юм. Аврах ажилд урьд өмнө нь хиймэл оюун ухаантай анчид маш их хүсэл эрмэлзэлтэй байдаг. Тэд компьютерийн мэдлэгтэй шагналын анчид байх магадлалтай. Үүнээс гадна хиймэл оюун ухааны чадваруудын гүнд шингэсэн гэж найдаж байна.

Буутай, аялж, хиймэл оюун ухаанаар мэргэшсэн онц мэргэн буудлагын тусламжтайгаар хиймэл оюун ухааны таагүй, таагүй хандлагыг илчилж чадна.

Энэ нь хиймэл оюун ухааны гажуудлыг илрүүлэхэд ийм тактик баримтлах нь хэр мэдрэмжтэй байдаг талаар олон хүнд асуултуудыг төрүүлдэг. Би түр зуур ярилцах тул хиймэл оюун ухаан гарч ирснээр хиймэл оюун ухаанд хандах хандлага бий болсон гэдгийг мэдэж аваарай. Хиймэл оюун санааны гажуудлын урсгал. Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI-ийн талаарх миний үргэлжилсэн бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Тодорхой AI систем нь хэвийх шинж чанартай гэдгийг бид хэрхэн олж мэдэх вэ?

Та хиймэл оюун ухааныг зохион бүтээсэн хиймэл оюун ухааны хөгжүүлэгчдэд даатгаж болно. Хамгийн гол нь тэд өөрсдийн зохиосон хиймэл оюун ухаан доторх өрөөсгөл ойлголтыг өөрсдөө таньж чадахгүй хэт нэг хэвийсэн үзэлд автсан байж магадгүй юм. Энэ бүхэн тэдэнд сайхан харагдаж байна. Эсвэл тэд хиймэл оюун ухааны талаар маш их баярлаж, өөрөөрөө бахархах мэдрэмжтэй байж магадгүй тул дараа нь үүнийг өрөөсгөл талаас нь шалгахын тулд шүүмжлэлтэй хандах нь хэцүү бөгөөд жинхэнэ уналт болно. Бусад олон шалтгаанууд нь хиймэл оюун ухааны хөгжүүлэгчид энэ ажлыг гүйцэтгэхэд саад болж байгаа мэт санагдаж болох юм, үүнд суулгагдсан хэвийсэн талыг олж мэдэх чадваргүй байх, төсөл хэрэгжүүлэхэд цаг хугацаа байхгүй гэх мэт.

За, цаашаа явж гадны зөвлөхүүдийг хөлсөлж өөрт чинь бохир ажлыг хийлгээрэй. Зөвлөхүүд таны хиймэл оюун ухааныг өрөөсгөл талаас нь сайтар шалгаж үзээд танаас багагүй пенни (маш их, олон пенни) төлөх болно. AI системээ хурдасгахын тулд тэдэнд мөнгө төлөх хэрэгтэй гэдгийг ойлгоорой. Дараа нь та тэднийг тойрон эргэлдүүлэх хэрэгтэй бөгөөд энэ нь тоо томшгүй олон зардал шаардсан цагийг авч магадгүй юм. Хэрэв танд төсөв байгаа бол зөвлөхүүдийг ашиглах нь сонголт юм.

Хиймэл оюун санааны эдгээр хуурамч үзлийг хэрхэн олох боломжит "цоорхой" руу баатарлаг, бүдүүлэг хиймэл оюун ухааны хазайлтыг шагналын анчид оруулдаг.

Та тэдэнд ихэвчлэн урьдчилж төлдөггүй. Тэд хиймэл оюун ухааны гажуудлыг цаг тухайд нь олохыг хичээдэг бөгөөд үүнийг хийхдээ өөрсдөө төлбөрөө төлөх шаардлагатай болдог. Зөвхөн өрөөсгөл ойлголтыг амжилттай олсон тохиолдолд л тэд цалин авдаг. Энэ бол шагналын анчин гэсэн ердийн тодорхойлолт гэдгийг та тохирох сэтгэлгээгээр баттай хэлж чадна гэж би бодож байна. Хэрэв та амжилтанд хүрвэл цалингаа аваарай. Амжилтанд хүрэхгүй бол цалин авах хэрэггүй. Үе үе, түүхийн төгсгөл.

Боунти хөтөлбөрүүд нь ядаж Ромчуудын үеэс бий болсон тул эдгээр бүх жилийн турш амжилттай дадлага хийснээр тэд ажил хийдэг гэж бид таамаглаж магадгүй юм.

Та бүхэндээ нэгэн сонирхолтой түүхийн сонирхолтой хэсгийг хүргэж байна. Ромын эзэнт гүрний үед Помпей хотод байрлуулсан зурваст жижиг дэлгүүрээс алга болсон зэс савыг олохын тулд шагналын анчид хэрэгтэй гэж зарласан байна. Зэс савыг сэргээсний шагнал нь жаран таван хүрэл зоостой гайхалтай шагнал байв. Уучлаарай, ямар нэгэн шагналын анчин зэс савыг олж, хүрэл зоос авсан эсэхийг мэдэхгүй ч эрт дээр үеэс олноор агнах явдал үргэлжилсээр ирсэн гэдгийг бид мэднэ.

Орчин үеийн үед та 1980-аад онд компьютерийн алдаа эсвэл бэлэн програм хангамжийн багц дахь алдааг олохын тулд зарим нэг гайхалтай урамшуулал санал болгож байсныг та мэдэж байгаа байх, дараа нь 1990-ээд онд Netscape вэб хөтчийнхөө алдааг олж илрүүлсэнийхээ төлөө урамшуулал санал болгож байсан. (тухайн үеийн хамгийн алдартай пүүсүүдийн нэг болсон). Google болон Facebook тус бүр 2010, 2013 оноос эхлэн алдааны төлөө шагнал авах аргыг сонгосон. Хэдэн жилийн дараа, 2016 онд АНУ-ын Батлан ​​хамгаалах яам хүртэл "Пентагоныг хакердах" урамшууллын арга хэмжээ авснаар (олон нийтэд чиглэсэн шагнал нь DoD-тэй холбоотой янз бүрийн вэб сайтаас олдсон алдаануудад зориулагдсан болохыг анхаарна уу. хамгаалалтын чухал системүүд).

Алдаа шагналын сэдвийг илүү гүнзгий судалцгаая. Энэ хэлэлцүүлэгт би гол төлөв шагналын агнуурын хиймэл оюун ухааны талаар ярихыг зорьж байгаагаа ойлгож байна, гэхдээ алдааны шагналын талбартай нэлээд хамааралтай ижил төстэй зүйлүүд байдаг.

Зарим нь ямар ч пүүс системийнхээ алдааг (эсвэл энэ тохиолдолд хиймэл оюун ухааны гажуудлыг) олохын тулд урамшуулал санал болгохыг хүсч байгаа гэдэгт гайхаж байна.

Өнгөц харахад энэ нь "та үүнийг хүсч байна" гэсэн стратеги мэт санагдаж байна. Хэрэв та өөрийн программ хангамжийн цоорхойг олох гэж оролдсон хүмүүсийг хүлээн авч байгаа гэдгээ дэлхий нийтэд мэдэгдвэл хулгайчдыг цаашаа явж, танай гэрт нэвтрэн орохыг оролдсонтой адил юм шиг санагддаг. Хэдийгээр та маш сайн хулгайн дохиоллын системтэй бөгөөд хэн ч танай гэрт нэвтэрч чадахгүй гэдэгт итгэж байсан ч хулгайчдаас танай оршин суугаа газар руу бууж ирж, тэднээс асууж, гуйж байна гэж төсөөлөөд үз дээ. түүн рүү хагарах. Өө, бидний өөрсдөдөө зориулж нэхэх зовлон.

Хиймэл оюун ухаандаа өрөөсгөл ойлголтыг олохын тулд шагналын анчдаас гуйх талаар ч мөн адил хэлж болно.

Нэгдүгээрт, энэ нь таны хиймэл оюун ухаанд өрөөсгөл ойлголттой гэдэгт аль хэдийн итгэж, бүр шууд мэдэж байгаа гэсэн үг юм. Энэ бол цөөхөн хэд нь үүнийг хийх хүсэлтэй мэт санагдах бөгөөд сөрөг үр дагаварт хүргэж болзошгүй гэдгийг цочирдуулсан илэн далангүй хүлээн зөвшөөрөх явдал юм.

Хоёрдугаарт, эдгээр шагналын анчид юу хийж болохыг та сайн мэдэхгүй байна. Тэд таны хиймэл оюун ухаанд буруу ойлголт олсон гэдгээ дэлхий нийтэд хэлэхээр сонгож болно. Энэ нь шагнал хүртэх боломжгүй болно гэж таамаглаж байна, гэхдээ зарим нь анхааралдаа авах дуртай эсвэл зөвлөгөө өгөх тоглолт болон бусад орлого олох боломжуудыг олж авахын тулд статусаа нэмэгдүүлэх зорилготой байж магадгүй юм. Энэ нь бүхэлдээ өгөөмөр сэтгэлтэй байж магадгүй юм. Энэ нь хиймэл оюун ухааны идэвхжлийн нэг хэлбэр байж болох юм. Би үргэлжлүүлж чадна.

Гуравдугаарт, бүх үйл явдалд нууцлаг эргэлт гарч болзошгүй. Хиймэл оюун санааны гажуудлыг хайж байна гэж хэлдэг шагналын анчин таны хиймэл оюун ухааны системд халдах арга замыг хайж олохын тулд чөтгөрөөр эргэлдэж байж магадгүй юм. Бүх зүйл бол эцэст нь ноцтой кибер халдлагад өртөх явдал юм. Тэд зүрх сэтгэлдээ буруу зүйл тээж байхад нь туслахыг хичээж байна гэж та бодож байсан байх. Харамсалтай, гэхдээ боломжтой.

Дөрөвдүгээрт, бид энэ асуудалд илүү зальтай хандаж болно. Шагнал гардуулах анчин AI-ийн зарим нэг ичгэвтэр бөгөөд шүүхээр зарга үүсгэж болзошгүй талыг олж хардаг. Шагнал гэдэг нь бидний X гэж нэрлэх тодорхой хэмжээний доллар юм. Боунтын анчин шагнал авахын оронд нэг төрлийн хачин ransomware өдөөн хатгалга хийдэг. Хэрэв та шагналын анчинд арван дахин X юм уу эсвэл тэнгэрт хязгаарлагдмал хэмжээгээр төлөх юм бол тэд танд хиймэл оюун ухааны гажуудлын талаар хэлэх болно. Та Ням гарагийн шөнө дунд хүртэл хариулах боломжтой. Энэ хугацааны дараа хиймэл оюун ухааны хэвийх хандлага нь бүгдэд харагдах болно. Тийм ээ, үнэхээр хэцүү байдалд орно.

Тавдугаарт, хамгийн сүүлийнх нь цахим сүлжээгээр зуурсан гурилаа хулгайлсны дараа наманчилж, хууль бусаар олсон олзоо буцааж өгөхөөр шийдсэн "буцааж өгөхийг оролдсон" цахим луйварчид юм. Мөнгөө хэсэгчлэн эргүүлэн авсан компани хулгайчдад өгсөн шагналын дараа үлдсэн мөнгийг нь авч үзэхэд бэлэн байна. Санхүүгийн дийлэнх хэсгийг буцааж өгснөөр кибер луйварчдыг хуулийн дагуу мөрддөггүйгээс гадна далайн дээрэмчний урамшуулал авдаг тул бүгд "хож" байх шиг байна. Энэ нь ухаалаг хэрэг үү, эсвэл далд аргаар хийсэн буруу үйлдэл үү?

Та нарын зарим нь хэн ч ямар нэгэн өрөөсгөл ойлголттой хиймэл оюун ухааныг гаргах ёсгүй гэж хэлж байгааг би ойлгож байна. Энэ нь хиймэл оюун ухаанд суурилсан шагналын ангуучдыг ашиглах уу, үгүй ​​юу гэсэн бүх асуудлыг шийдэж байгаа юм шиг санагдаж байна. Зүгээр л өөрийгөө шагналын нөхцөл байдалд бүү оруул. Таны AI хөгжүүлэгчид зөв зүйл хийж, хиймэл оюун ухааны системд хиймэл оюун ухааны гажуудлыг зөвшөөрөхгүй байгаа эсэхийг шалгаарай. Давхар шалгалт хийхийн тулд зөвлөхүүдийг ашиглана уу. Нэг ёсондоо хиймэл оюун ухаанд зориулсан шагналын ангуучдыг ширээн дээр ирэхийг хэзээ ч бодохгүй байхын тулд хийх ёстой бүхнээ хий.

Тийм ээ, энэ нь бүхэлдээ ухаалаг санагдах болно. Асуудал нь энэ нь бас жаахан мөрөөдөлтэй байдаг. Олон тооны AI системүүдийн нарийн төвөгтэй байдал нь маш их тул хиймэл оюун ухааны нэг ч унц гажуудал гарахгүй байхыг хичээх нь хэцүү байх болно. Үүн дээр нэмээд зарим хиймэл оюун ухааны системүүд нь дасан зохицож, "суралцах" зорилгоор зориудаар бүтээгдсэн байдаг. Энэ нь ирээдүйн зарим үед таны зохион бүтээсэн хиймэл оюун ухаан нь цэвэрхэн, өрөөсгөл ойлголтгүй мэт дүр эсгэх болно гэсэн үг юм (би үүнийг хүний ​​шинж чанартай гэсэн үг биш, би цаашид тайлбарлах болно. Энэ сэдвээр яваарай).

Програм хангамжийн алдааг хайж олохыг илүүд үздэг хүмүүс ийм урамшуулал санал болгох нь утга учиртай гэж маргах хандлагатай байдаг. Бид тэдний үндэслэлийг авч үзээд энэ нь хиймэл оюун ухааны хэвийх талбарт хамаарах эсэхийг харж болно.

Алдааны урамшууллыг дэмжигчид системд ямар ч цоорхой байхгүй мэт дүр эсгэхийн оронд "хяналттай" байдлаар цоорхойг олж илрүүлэхийг яагаад дэмжиж болохгүй гэж онцолж байна? Үүний эсрэгээр, ийм урамшууллын хүчин чармайлтгүйгээр та санамсаргүй тохиолдлоор хэн ч нүх олдохгүй гэж найдаж, залбирч болох ч оронд нь шагнал өгч, нүх олсон хүмүүст шагнагдах болно гэж хэлэх юм бол энэ нь Дараа нь нүхийг өөрөө босгож, хожим нь бусад хүмүүс үүнийг нууцаар олохоос сэргийлнэ.

AI хэвийсэн байдлыг ашиглах тохиолдолд ижил зүйлийг хэлж болно. Хэрэв та хангалттай шагнал санал болговол шагналын анчид хиймэл оюун ухааны гажуудлын нээлтийг танд хүргэх болно гэж найдаж байна. Дараа нь та AI-ийн гажуудлыг харьцангуй чимээгүй, хэмжсэн аргаар даван туулж чадна. Энэ нь хожим илүү том, илүү аймшигтай асуудлаас урьдчилан сэргийлж магадгүй, тухайлбал хэн нэгэн таны хиймэл оюун ухаанаас хиймэл оюун ухааны гажуудлыг олж мэдээд энэ талаар өндөр тэнгэрт хашгирч байх болно.

Ерөнхийдөө алдааг олж илрүүлэх оролдлогыг идэвхжүүлэх хүсэлтэй пүүс Эмзэг байдлыг тодруулах бодлогыг (VDP) хэрэгжүүлнэ. VDP нь алдааг хэрхэн олж, пүүст мэдээлэх, анчинд шагнал, шагналыг хэрхэн олгохыг зааж өгдөг. Ихэвчлэн VDP нь анчинаас олж мэдсэн зүйлээ бусдад задруулахгүйн тулд Илрүүлэхгүй байх гэрээнд (NDA) гарын үсэг зурахыг шаарддаг.

Өгсөн анчидтай NDA ашиглах тухай ойлголт зарим маргаантай байдаг. Хэдийгээр олсон өртөлтийг ээждээ хадгалахыг хүссэн компани шагналыг санал болгож байгаа нь утга учиртай байж болох ч энэ нь ийм алдааны талаархи ерөнхий ойлголтыг боомилдог гэж үздэг. Хэрэв програм хангамжийн алдааны талаар ярихыг зөвшөөрвөл энэ нь бусад фирмүүдийн бусад системийн аюулгүй байдалд тусалж, улмаар тэдний өртөлтийг нэмэгдүүлэх болно. Зарим шагналын анчид хэсэгчлэн олон нийтийн хүсэл эрмэлзэл, зарим талаараа өөрсдийн хувийн мэдээллийг нуухыг оролдсоны улмаас NDA-д гарын үсэг зурдаггүй. NDA тал нь ихэвчлэн анчин алдаа олсон гэж мэдэгдээгүй байхад үүсдэггүй гэдгийг санаарай.

Зарим VDP-ууд нь NDA нь зөвхөн хязгаарлагдмал хугацаанд зориулагдсан гэж заасан байдаг бөгөөд энэ нь пүүст эхлээд харагдах нүхний шийдлийг олох боломжийг олгодог бөгөөд дараа нь энэ талаар илүү өргөн хүрээнд ил тод болгох боломжийг олгодог. Нүх бөглөсний дараа пүүс нь NDA-г суллахыг зөвшөөрдөг бөгөөд ингэснээр дэлхийн бусад хүмүүс алдааны талаар мэдэх боломжтой болно. Байгууллагад нэн даруй залгахыг хүссэн алдаануудыг шийдвэрлэх ердийн хугацаа нь ойролцоогоор 15-20 хоног байдаг бол бусад тохиолдолд энэ нь 60-80 хоног хүртэл үргэлжилдэг. Төлбөр төлөх хугацаа гэж нэрлэгддэг шагналын анчинд төлөх төлбөрийн хувьд нүх үнэхээр байгаа эсэхийг шалгасны дараа шагналын төлбөр нь жижиг тохиолдолд 15-20 хоногийн дотор, 50-60 орчим хоног байх хандлагатай байна. илүү том тохиолдлуудад өдөр (эдгээр нь байнга өөрчлөгдөж байдаг салбарын үзүүлэлтүүд бөгөөд зөвхөн жишээ болгон дурдсан).

Хиймэл оюун ухаан нь өгөгдлийн ангуучдыг бас VDP-д оролцож, NDA-тай харьцахыг хүсэх ёстой юу?

Та энэ асуултанд тийм, үгүй ​​гэж хариулж болно. Тийм ээ, зарим пүүсүүд ийм замаар явах ёстой. Үгүй ээ, та энэ замаар явахыг сонгох шаардлагагүй байж магадгүй юм. Хүчин зүйлд хиймэл оюун ухааны хэмжээ, мөн чанар, аливаа хиймэл оюун ухаанд өртөх магадлал, ёс зүй, хууль эрх зүй, бизнесийн бусад олон асуудлууд багтана.

Хиймэл оюун ухааныхаа хиймэл оюун ухааны хэвшмэл байдлын төлөө шагнал агнах оролдлогыг бий болгох нь таны төсөөлж байснаас хамаагүй өндөр тушаал гэдгийг би нэмж хэлж болно.

Бид таныг хиймэл оюун ухаанд автдаг шагналын анчдад дарагдах магадлалаас эхлэх болно.

Яг одоо та ийм ярианы карттай олон хүнийг олоход хэцүү байх болно. Эргэн тойронд тийм ч олон байдаггүй. Энэ бол Зэрлэг Барууны өдрүүд юм. Гэхдээ хэрэв шагналын агнуурын хиймэл оюун ухааны хэвийх ойлголт, ялангуяа шагнал нь элбэг бөгөөд арвин их ашиг тустай үед баригдах юм бол хүн бүр агнуурын усан сан руу шумбах болно гэдэгт мөрийцөж болно.

Та хиймэл оюун ухааны системдээ хиймэл оюун ухааныг баримталдаг бүх төрлийн риффрафуудыг хүсч байна уу? Та энэ төрлийн чиглэлээр үнэхээр мэргэшсэн зарим хүлээн авагчдыг авах болно. Та бусад сонирхогчдыг олж авах болно, тэд эмх замбараагүй байдал үүсгэж, чоно уйлж магадгүй юм. Таны мэдэж байгаа дараагийн зүйл бол "Хиймэл оюун ухаан" гэж үсэглэж чаддаг хэн ч таны хиймэл оюун ухааны системийн алтны ордыг ухахаар ирэх болно. Алтны дайралт үргэлжилж байна. Энэ нь танд сайн биш байж магадгүй юм.

Та шагналын анчдын мэдүүлгийг сайтар нягталж үзэх хэрэгтэй. Мэдээлсэн мэдүүлэгт маш их "шуугиан" байх болно, учир нь мэдүүлсэн хиймэл оюун ухааны олон талт байдал байхгүй гэсэн утгаараа шагналын анчин заримыг нь олсон гэж шаарддаг. Танай хиймэл оюун ухааны багууд шагналын мэдүүлгийг шалгаж, тус бүрийн хүчин төгөлдөр байдлыг судалж, дараа нь алт олдсон эсэх талаар шагналын анчидтай нааш цааш явах боломжтойг төсөөлөөд үз дээ.

Зарим нь энэ нь бүх зүйлийг өөрөө хийх бас нэг шалтгаан гэж маргах болно. Шагнал авсан зүйл нь үнэ цэнээсээ илүү асуудал гэдгийг та гарцаагүй олж мэдэх болно.

Энд эргэцүүлэх өөр нэг асуулт байна. Хиймэл оюун ухаан ямар байдгийг шагналын анчид яаж мэдэх вэ? Үнэн чанартаа, юу хайх ёстойг үл тоомсорлож, ямар ч гялалзсан чулуулаг нь ухаж буй хиймэл оюун ухааны алтны уурхайд хиймэл оюун ухааны хэвийсэн шинж чанарыг харуулж байна гэж үзэж болно.

Хуучин Барууны үед та Билли Жаалыг (алдарт хууль бус хүн) баривчлахад шагнал санал болгосон гэж бодъё. Хэрэв та үүнийг хийсэн бөгөөд Биллигийн дүр төрхийг харуулсан зургийг оруулаагүй бол тэдний найдаж байсан эсвэл Билли гэж бодсон хэн нэгнийг шерифийн оффис руу чирж магадгүй гэж төсөөлөөд үз дээ. Та хуурамч Биллид автаж магадгүй. Энэ нь муу, учир нь та тус бүрийг нь харж, эрэн сурвалжлах асуултуудыг асууж, тэр хүн үнэхээр Билли мөн эсэхийг мэдэхийг оролдох хэрэгтэй.

Гол санаа нь хиймэл оюун ухааны хэвийх үзлийг бий болгохын тулд та хиймэл оюун ухааны хэвийх үзлийг юу гэж үзэж байгаагаа тодруулахыг хичээх нь ухаалаг хэрэг юм. Энэ нь Goldilocks төрлийн шалгалт тохируулга шаарддаг. Таны заасан тодорхойлолтод тохирохгүй учраас шагналын анчид хиймэл оюун ухааныг үл тоомсорлож, тэднийг "Эврика!" Хиймэл оюун ухааны хазайлт болгонд тэдний олж магадгүй.

Танд хиймэл оюун ухааны хэвийсэн ойлголтууд юунаас бүрдэх талаар яг зөв Goldilocks тэнцэл хэрэгтэй бөгөөд ингэснээр тэдгээрийн тодорхой чиглэлийг өгөх нь дээр.

Энэхүү хиймэл оюун ухаанд тулгуурласан шагналын агнах үйл ажиллагааны ихэнх нь AI-д суурилсан Machine Learning (ML) болон Deep Learning (DL) системүүдэд чиглэгдэх болно. ML/DL-ийн өргөн тархалт нэмэгдэж байгаа тул энэ нь утга учиртай бөгөөд үүнээс гадна хиймэл оюун ухааны үндэслэлгүй гажуудлыг хамрах хамгийн магадлалтай сорилтууд байх шиг байна.

Эдгээр судлаачид хиймэл оюун ухаан нь ялангуяа ML/DL контекстэд шагнал агнах хүчин чармайлтыг хэр зэрэг онцолж болохыг тодорхойлдог: “Цаг хугацаа өнгөрөх тусам программ хангамж, аюулгүй байдлын нийгэмлэгүүд систем хөгжүүлэгчид болон тэдний шүүмжлэгчдийн хооронд ижил төстэй динамикийг өөрчлөхийг оролдсон “алдааны урамшуулал”-ыг бий болгосон. (эсвэл хакерууд) илүү интерактив, бүтээмжтэй зорилгод чиглүүлнэ. Гадны талуудыг системийнхээ программ хангамж, техник хангамжийн алдааг олж илрүүлэхэд зориудаар урьж, үүний тулд ихэвчлэн мөнгөн урамшуулал үзүүлснээр эрүүл, хурдан хариу үйлдэл үзүүлэх экосистем хөгжинө гэж найдаж байна. ML-ийн нийгэмлэгийн хувьд хэвийх эсвэл бусад хүсээгүй зан үйл бүхий загвар, системийг цаг тухайд нь олж илрүүлэх, засах ижил төстэй "хэвийн шагнал" арга барилыг авч үзэх нь зүйн хэрэг юм. Програм хангамжийн алдааг олохын оронд гадны талуудыг хэвийсэн ойлголтыг олохыг урьж байна, тухайлбал, бэлтгэгдсэн загвар (хүн ам зүйн болон бусад) орцын дэд бүлгүүд дээр нь дутуу гүйцэтгэлтэй байгаа оролтуудыг олж, ингэснийх нь төлөө шагнадаг. Ира Глобус-Харрис, Майкл Кирнс, Аарон Рот нарын бүтээлүүд.

Судалгааны баримт бичигт зохиогчид шагналын анчид ямар төрлийн хиймэл оюун ухааны гажуудлыг хайж болох талаар санал болгож буй хандлагыг тодорхойлсон. Түүнчлэн илрүүлсэн хиймэл оюун ухааны гажуудалтай холбоотой шагналын анчдын нэхэмжлэлийг хэрхэн үнэлэх тухай заалт бас бий. Өмнө нь хэлсэн миний энд дурдсанчлан, та хуурамч нэхэмжлэл хүлээн авах магадлалтай бөгөөд хиймэл оюун ухаантай улаан буудайг үр тарианаас салгах хэрэгтэй болно.

Хиймэл оюун ухаант ан агнуурын үндэс суурь болох зэрлэг болон ноосны талаар илүү их мах, төмс авч үзэхээсээ өмнө гүнзгий салшгүй сэдвүүдийн талаар нэмэлт үндсийг тогтооцгооё. Бид хиймэл оюун ухааны ёс зүй, ялангуяа Machine Learning (ML) болон Deep Learning (DL) бий болсон тухай товчхон танилцах хэрэгтэй.

Өнөө үед хиймэл оюун ухаан, тэр ч байтугай хиймэл оюун ухааны салбарын гаднах хамгийн чанга дуу хоолой бол Ёс суртахууны хиймэл оюун ухааны талаар илүү их дуулиан шуугиан дэгдээх явдал гэдгийг та мэдэхгүй байж магадгүй юм. AI Ёс зүй ба Ёс суртахууны AI гэж юу гэсэн үг болохыг харцгаая. Дээрээс нь би Machine Learning болон Deep Learning-ийн талаар ярихдаа юу хэлэх гээд байгааг судлах болно.

Хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татсан AI ёс зүйн нэг хэсэг буюу хэсэг нь таагүй хандлага, тэгш бус байдлыг харуулдаг хиймэл оюун ухаанаас бүрддэг. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хэсэг хугацааны дараа би AI-ийн ёс зүйн үндсэн зарчмуудыг тантай хуваалцах болно. Ийм олон жагсаалт энд тэнд хөвж байна. Бүх нийтийн давж заалдах, зөвшилцлийн цорын ганц жагсаалт хараахан гараагүй байна гэж та хэлж болно. Энэ бол харамсалтай мэдээ юм. Сайн мэдээ гэвэл ядаж л AI-ийн ёс зүйн жагсаалтууд бэлэн байдаг бөгөөд тэдгээр нь нэлээд төстэй байх хандлагатай байдаг. Энэ бүхэн нь үндэслэлтэй нэгдлийн хэлбэрээр бид хиймэл оюун ухааны ёс зүй юунаас бүрддэг нийтлэг нийтлэг байдалд хүрэх замаа олж байгааг харуулж байна.

Эхлээд хиймэл оюун ухааныг урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд Ёс зүйн AI-ийн ерөнхий зарчмуудын заримыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Холбогдох ажилтнууд хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргууд, тухайлбал ил тод, аудит хийх боломжтой арга зүй, өгөгдлийн эх сурвалж, дизайны журам, баримт бичгийн талаар зохих ойлголттой байхаар хэлтсийн хиймэл оюун ухааны чадавхийг хөгжүүлж, ашиглах болно.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс хиймэл оюун ухааны ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Одоо хиймэл оюун ухаантай ангуучлах сэдэв рүү буцаж орцгооё.

Хиймэл оюун ухаанаар өгөөжтэй агнах оролдлогыг бодож байгаа хүмүүст зориулж хэрхэн хамгийн сайн үргэлжлүүлэх талаар миний санал болгож буй долоон гол алхмыг энд оруулав.

1) Үнэлгээ хийх. Өөрийн нөхцөл байдал болон хиймэл оюун ухааны системийнхээ дагуу хиймэл оюун ухаанд суурилсан шагнал агнах хүчин чармайлтыг үнэл.

2) Зураг төсөл боловсруулах. Тохиромжтой хиймэл хиймэл оюун ухаанаар өгөгдсөн арга барилыг зохион бүтээх

3) Хэрэгжүүлэх. Хиймэл оюун ухаанд суурилсан шагнал агнах хүчин чармайлтаа хэрэгжүүлж, сурталчлаарай

4) хээрийн. Хиймэл оюун ухаан нь шагналын нэхэмжлэлийг өрөөсгөл болгож, үүний дагуу боловсруулна

5) Үзнэ үү. Эдгээр илрүүлсэн хиймэл оюун ухааны гажуудалд нийцүүлэн AI-аа засч эсвэл тохируулна уу

6) тохируулна. Шаардлагатай бол AI-ийн хазайлтыг тохируулна уу

7) Зогсоох. Шаардлагагүй болсон үед хиймэл оюун ухаанаар өгөгдсөн шагнал агнахыг зогсоо

Миний дээрх цуврал алхмуудад, таны AI системд AI-ийн буруу хандлага байгаа эсэхийг олж мэдсэний үндсэн дээр та өөрийн хиймэл оюун ухаанаа засах эсвэл тохируулахыг хүсэх болно гэдгийг анхаарна уу. Энэ нь маш их утга учиртай юм. Та олсон аливаа хиймэл оюун ухааны хэвшмэл ойлголтыг дэмжихийг бараг л хүсэх нь гарцаагүй. Хэрэв та үүнийг хийхгүй бол хууль ёсны (болон ёс зүйн) үр дагаврыг бодоорой. Хиймэл оюун санааны гажуудал байдгийг мэдээгүй, тиймээс түүнийг оршин тогтнохыг зөвшөөрсөн гэж батлах нь нэг хэрэг, харин хиймэл оюун ухааны гажуудлыг мэдэж, энэ талаар юу ч хийгээгүй байх нь илүү донсолгоотой байх болно.

Хиймэл оюун ухааныг засах эсвэл тохируулах шинж чанар, зэрэг нь мэдээжийн хэрэг хиймэл оюун ухааны гажуудал хэр их ач холбогдолтой байсан, асуудал хэр гүн гүнзгий шингэсэн эсэхээс шалтгаална. Хэрэв та азтай бол хиймэл оюун ухаанд бага зэрэг өөрчлөлт оруулснаар асуудлыг засах болно. Өөр нэг боломж бол та хиймэл оюун ухааныг бүхэлд нь дахин бичих шаардлагатай байж магадгүй юм. ML/DL төрлийн хиймэл оюун ухааны хувьд энэ нь зургийн самбар руу буцаж, цоо шинэ өгөгдөл, цэвэршүүлсэн ML/DL загвараар шинээр эхлэх шаардлагатай байж болно. Би хиймэл оюун ухааныг задлах эсвэл хиймэл оюун ухааныг устгах боломж бий болсон талаар тааламжгүй хиймэл оюун ухааны эсрэг хууль эрх зүйн арга хэмжээ авах талаар ярилцсан. холбоос энд байна.

Бонтын анчид зүгээр л хиймэл оюун ухаанд хандах хандлагыг тодорхойлохоос илүү ихийг хийхийг хүсч байгаа эсэх талаар бодож үзэх ёстой асуулт юм. Жишээ нь, та санал болгож буй засваруудыг ч бас хүлээж авах боломжтойг илэрхийлж шагналыг нэмж болно. AI-ийн буруу хандлага олдлоо шагналын анчин нь заасан нэг шагнал эсвэл шагналыг төлж болно. Хэрэв шагналын анчин бас амьдрах чадвартай санал болгож чадвал засах Хиймэл оюун санааны хувьд тэд нэмэлт шагнал авах боломжтой.

Зарим нь үүнийг хэтэрхий хол гүүр гэж маргаж байна. Хиймэл оюун санааны таамаглалыг олоход онцгой анхаарал хандуулах хэрэгтэй гэж тэд хэлж байна. Та тэднийг засахыг санал болгохыг урьснаар олон хүсээгүй сөрөг үр дагаврыг бий болгох гэж байна. Аливааг энгийн байлга. Зорилго нь хиймэл оюун ухааны гажуудлыг олж илрүүлэхэд илүү олон нүдийг олж авах явдал бөгөөд ингэснээр та дараа нь юу хийхээ шийдэх боломжтой болно. Усыг бохирдуулж болохгүй.

Хиймэл оюун ухааны гажуудлыг жинхэнэ утгаар нь олж илрүүлсэн шагналын анчдад өгөх шагнал эсвэл шагналын хэмжээг тодорхойлох шаардлагатай чухал асуудал юм. Та үр өгөөжөө харуулахыг хүсч байна. Хангалттай өндөр шагналгүй бол та олон шагналын анчид авахгүй, эсвэл тэд таны AI систем дэх хиймэл оюун ухааны гажуудлыг хайх хүсэлгүй байх болно. Тэд үүний оронд AI-ийн хэвийсэн шагнал урамшуулал дээр анхаарлаа төвлөрүүлж магадгүй юм.

Цаашилбал, дурьдсанчлан, та шагналын анчдын хиймэл оюун ухааныг олсон нээлтээ алтны бусад хэлбэр болгон хувиргах хүслийг дарахыг хүсч байна. Хэрэв шагнал нь бүдүүлэг мэт санагдаж байвал шагналын ангийг өөр өндөр ашиг олохыг эрэлхийлэхэд хүргэж болзошгүй юм. Тэд тан руу ransomware ханддаг байж магадгүй. Тэд өрсөлдөгчийн тань мэдэхийг хүсч буй хиймэл хиймэл оюун ухаантай гэдгээ зарлаж, таны хиймэл оюун ухаанд хиймэл оюун ухаан байдаг гэж сурталчилж, танай компанийн эсрэг ашиглаж болно. Тиймээс тэд илрүүлсэн хиймэл оюун ухааныг хамгийн өндөр үнийн санал өгсөн хүнд зардаг. гэх мэт.

Хэрэв та шагналыг маш өндөр түвшинд тогтоовол та бас болзошгүй бэрхшээлийг асууж байна гэж бодож байна. Энэ нь бүх төрлийн самарчдыг татах боломжтой. Тэд эргээд хиймэл оюун ухааны олон талыг олсон гэсэн бүдүүлэг мэдэгдлээр сошиал медиаг дүүргэж, өөрсдийгөө сурталчлахын тулд үүнийг хийж, хиймэл оюун ухааны ямар нэгэн гажуудлыг бодитойгоор хийгээгүй байж магадгүй юм. Нэг ёсондоо таны нэмэгдүүлсэн шагнал таны хиймэл оюун ухаанд санамсаргүй байдлаар гэрэл тусч, олон тооны бүдүүлэг эрвээхэйг өдөөж, гэрэлтдэг гэрлийн туяанд хор хөнөөлтэй татагдах болно.

Өөр нэг анхаарах зүйл бол таны хиймэл оюун ухаанд хүртээмжтэй байх явдал юм.

AI шагнал агнах боломжийг идэвхжүүлэхийн тулд шагналын анчид таны хиймэл оюун ухаанд хангалттай хандах ёстой. Хэрэв тэд бүрэн түгжигдсэн бол хиймэл оюун ухааны гажуудлыг олоход тийм ч их аз тохиохгүй. Гэхдээ та кибер аюулгүй байдлын хамгаалалтаа орхихыг хүсэхгүй байна, учир нь энэ нь таны хиймэл оюун ухааны системийг бүрэн сүйтгэж болзошгүй юм.

Та шагналын анчид янз бүрийн хууль ёсны мэдүүлэгт гарын үсэг зуруулж, шаардлагатай хандалтыг өгөхийг оролдож болно. Зарим шагналын анчид ийм арга барилд дургүй байх болно. Тэдний үзэл бодол бол зөвхөн олон нийтэд нээлттэй, нээлттэй зам зөвшөөрөгдсөн бүх зүйлийг л хийх болно. Тэд яг л эрх чөлөөтэй маверикууд бөгөөд эмээллэхэд дургүй байдаг. Тэднийг айлган сүрдүүлсэн хууль эрх зүйн баримт бичигт гарын үсгээ зуруулснаар тэдний ихэнх нь хиймэл оюун ухаандаа хиймэл оюун ухааны гажуудлыг хайхаас зайлсхийх болно. Эсвэл тэд таны хууль ёсны гар хөлд эгдүүцэж, олон нийтийн хэрэгслээр юу олж болохыг олж мэдэхээр шийдэж, таныг үнэхээр эмзэг болохыг тань харуулах гэсэн ширүүн хүсэл эрмэлзэлтэй байж магадгүй юм.

Таны толгойг эргүүлэх өөр нэг өнцөг надад бий.

Хиймэл оюун ухааны мэдлэгтэй шагналын анчин таны хиймэл оюун ухааныг нягт нямбай судалж, хиймэл оюун ухаан дахь хиймэл оюун ухааны гажуудлыг илрүүлэх боломжтой хиймэл оюун ухааны системийг зохион бүтээхээр шийдэж магадгүй юм. Энэ бол багаж үйлдвэрлэгч өөрөө гар хөдөлмөр хийхээс илүүтэйгээр тухайн ажлыг гүйцэтгэх хэрэгсэл хийхийг илүүд үздэг. Хиймэл оюун ухаантай шагналын анчин таны хиймэл оюун ухааныг шаргуу судлахын оронд ижил зүйлийг хийдэг хиймэл оюун ухааны хэрэгслийг зохион бүтээхэд цагаа зарцуулдаг. Тэд таны хиймэл оюун ухаан дээр AI хэрэгслийг ашигладаг. Үзэсгэлэнтэй тал нь тэд хиймэл оюун ухааны хэрэгслийг өөр хэн нэгэнд дахин ашиглах боломжтой бөгөөд энэ нь мөн өөрсдийн хиймэл оюун ухаандаа шагнал агнах боломжийг санал болгодог.

Таны юу бодож байгааг би мэднэ. Хиймэл оюун ухааныг хэвийсэн эсэхийг шалгахын тулд хиймэл оюун ухааны хэрэгслийг зохион бүтээж болох юм бол хиймэл оюун ухааны гажуудлыг шалгаж байгаа хиймэл оюун ухааныг бүтээгч ийм хиймэл оюун ухааны хэрэгслийг урлах эсвэл өөрийн хэрэгцээнд зориулж худалдаж авах ёстой. Онолын хувьд, тэд дараа нь эхлээд шагналын анчдын багт наадамд оролцох шаардлагагүй болно. Зүгээр л хиймэл оюун ухааныг ашиглан тэдний AI-ийн буруу ойлголтыг олоорой.

Тийм ээ, энэ нь аажмаар бий болно гэж найдаж болох зүйл юм. Үүний зэрэгцээ, эдгээр хүчин чармайлтын гол тулгуур нь шагналын агнуур хийх AI хөгжүүлэгчид байх магадлалтай. Тэд өөрсдийн хүчин чармайлтад туслахын тулд янз бүрийн хэрэгслийг ашиглаж болох ч ойрын ирээдүйд хиймэл оюун ухааны хэрэгслийг автоматаар ажиллуулж, AI-ийг бүхэлд нь хайж олохын тулд нойрмоглох нь юу л бол.

Бид хараахан байхгүй байна.

Энэхүү чухал хэлэлцүүлгийн яг энэ мөчид та энэ сэдвийг харуулсан зарим жишээг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд гарч ирснээр хиймэл оюун ухаанд суурилсан шагналын агнуурын хэрэглээний талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADA гэж нэрлэгддэг автоматжуулсан нэмэлтүүдАДА
S (Дэвшилтэт жолоочийн тусламжийн систем).

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машинууд ба хиймэл оюун ухаантай өгөөмөр агнах

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний ярих гэж буй зүйлийн үндэс болох хангалттай олон тооны анхааруулгыг өгнө гэж найдаж байна.

Би өөрийн баганууддаа бие даасан тээврийн хэрэгсэл болон өөрөө жолооддог автомашины салбарт алдааны баримжаатай шагналын ангуучдыг ашиглах талаар аль хэдийн ярилцсан. Энэ арга барил үнэхээр энэ салбарт бий болсон. Энэ нь зөв санаа мөн үү, үгүй ​​юу гэдэг дээр ердийн маргаан байдаг. Хүчин чармайлт нь ихэвчлэн хязгаарлагдмал шинж чанартай байсан бөгөөд ихэвчлэн харьцангуй чимээгүй байдаг.

Системийн алдааг эрэлхийлэхийн оронд хиймэл оюун ухааны гажуудлыг хайж олоход анхаарлаа хандуулах үед мөн адил яриа гарч болно. Зарим нь хэрэв та үүнийг хийвэл харамсах болно, хэрэв та оньсогогүй бол харгис болно гэж зөвлөж байна.

Яагаад гэвэл.

Нэгдүгээрт, автомат жолоодлоготой тээврийн хэрэгсэл болон өөрөө жолоодлоготой машинууд хиймэл оюун ухааны гажуудалд өртөх олон арга зам байдаг бөгөөд миний сурвалжлагыг эндээс үзнэ үү. холбоос энд байна болон холбоос энд байна, хэдхэн нэрлэвэл. Автомашин үйлдвэрлэгчид болон өөрөө жолоодлоготой автомашины фирмүүд хиймэл оюун ухаанд ийм гажуудал үүсэхээс урьдчилан сэргийлэх нь ухаалаг хэрэг юм. Ийм пүүсүүдийн эсрэг хууль эрх зүйн болон ёс зүйн галын шуурга хүчтэй байх нь дамжиггүй.

Энэхүү тодорхой нөхцөл байдалд хиймэл оюун ухааныг ашиглах нь шагнал агнахад тохиромжтой арга мөн үү?

Нэг хариулт нь тийм ээ, энэ нь танд хэрэг болох бөгөөд хиймэл оюун ухаан өөрөө жолооддог машин болон бусад ижил төстэй AI-ийн суулгагдсан AI-ийн гажуудлыг туршиж үзэх, барьж авах олон тооны "үнэгүй" шинэ нүдээр хангах болно. Өөрийгөө жолооддог машин бүтээдэг хиймэл оюун ухаан хөгжүүлэгчдийн ихэнх нь А цэгээс В цэг хүртэл машиныг аюулгүй жолоодох хиймэл оюун ухаан бүтээх завгүй байдаг. Тэд энэ үндсэн чадварт санаа зовдог бөгөөд хаа нэгтээ байж болох хиймэл оюун ухаанд анхаарал хандуулдаггүй, цаг завгүй байдаг. тэдний AI.

Өөр нэг хариулт бол үгүй, алдаа эсвэл хиймэл оюун ухаантай холбоотой эсэхээс үл хамааран бие даасан тээврийн хэрэгсэл болон өөрөө жолооддог машиныг ямар ч үндэслэлээр шагнал агнахыг зөвшөөрөхгүй байх ёстой. Маргаан нь эдгээр машинууд болон тэдгээрийн хиймэл оюун ухаан нь үхэл эсвэл үхлийн калибрын хэмжээтэй байдаг. Хиймэл оюун ухаантай ямар ч байдлаар хутгалдах нь хиймэл оюун ухааныг сүйтгэж, хиймэл оюун ухааны жолоодлогын системд нөлөөлж болзошгүй юм.

Энэ сүүлчийн цэгийн эсрэг заалт бол шагналын анчид шалгаж буй хиймэл оюун ухаанаа өөрчлөх боломжгүй байх ёстой. Тиймээс тэд хиймэл оюун ухаантай хутгалдаж, энэ нөхцөлд хиймэл оюун ухаан нь гэнэт галзуу AI жолоодох систем болоход хүргэх ямар ч аюул байхгүй. Шагналын анчид зөвхөн унших боломжтой. Тэднийг цааш явахыг зөвшөөрөх нь үнэхээр тэнэг бөгөөд маш том алдаа болно.

Энэхүү сөрөг аргументийн эсрэг аргумент нь шагналын анчдад таны хиймэл оюун ухааныг шалгахыг зөвшөөрч, урамшуулснаар асуудал бүхэлдээ төвөгтэй болно. Эдгээр шагналын анчид олдсон аливаа алдаа, буруу ойлголтыг ашиглах арга замыг олж мэдэх болно. Эдгээр мөлжлөгүүд нь эргээд хуурамч зорилготой байж магадгүй юм. Та "хулгайч"-ыг гэртээ урьдаггүй байсан нь дээр. Тэд үе мөчийг арилгасны дараа эцэст нь та маш их асуудалд орох болно.

Амьдрал эсвэл үхлийн хэмжээнээс бага хэмжээтэй хиймэл оюун ухааны системтэй хүмүүсийн хувьд олигтой агнахын үр дагавар нь эрсдэл багатай гэж үздэг. Магадгүй тийм байх. Нөгөөтэйгүүр, хэрэв пүүс шагналын анчид булаан авч чаддаг хиймэл оюун ухааны системд мөнгөө цутгасан бол нэр хүнд болон бусад учирч болзошгүй хохирол нь хохирох болно гэж та үзэж болно.

Хиймэл оюун ухаанаар өгөгдсөн шагналын агнуурын тухайд үнэ төлбөргүй үдийн хоол байдаггүй.

Одоохондоо хаалтын товч үг.

Хуучин Барууны үед зартай хууль бус гэмт хэрэгтэн Жесси Жеймсийг эрэн сурвалжилж байх үед түүнийг баривчлахад 5,000 долларын шагнал санал болгосон ("үхсэн эсвэл амьд" гэсэн) "Хэлэгдэж буй" зурагт хуудас хэвлүүлжээ. Энэ нь тухайн үед нэлээд их мөнгө байсан. Түүний бүлэглэлийн гишүүдийн нэг нь Жессиг буудаж, шагналаа авахаар шийджээ. Энэ нь шагнал хэр үр дүнтэй болохыг харуулж байна гэж бодож байна.

AI хэвийсэн шагналын ангуучдыг ашиглах нь сайн зүйл байх уу, эсвэл муу зүйл байх уу?

Хэрэв та хиймэл оюун ухаантай өгөөмөр ангуучлах оролдлогыг эхлүүлэхээр шийдсэн бол нүдээ том нээж, үргэлж мөрөн дээрээ харж байхыг зөвлөж байна. Энэ нь танд болон таны хиймэл оюун ухаанд ухаалаг хэрэг болно. Юу тохиолдохыг та хэзээ ч мэдэхгүй, тэр дундаа заль мэхтэй шагналын анчин ямар нэгэн байдлаар хиймэл оюун ухаанд хиймэл оюун ухааны хэвийсэн ойлголтыг оруулаад, таны хиймэл оюун ухаанаас шударга бус хиймэл оюун ухааны гажуудлыг олсон гэж дэлхий даяар хашгирч байна. Магадгүй шагнал авах гэж увайгүй оролдлого хийж, мөн өөрсдийгөө алдаршсан Жесси Жеймсийг авсан баатар гэж зарласан байж магадгүй юм.

Бодоод үз дээ, ухаантай хиймэл оюун ухаан нь үхсэн эсвэл амьд гэсэн сэтгэлийг нь зовоодог энэ санаад дургүй байх магадлалтай.