Хиймэл оюун ухааны ёс зүй ба хууль эрх зүйн хиймэл оюун ухаан нь хиймэл оюун ухаан-угаах гэж нэрлэгддэг хуурамч дүр эсгэхэд төөрөлдсөн бөгөөд энэ нь өөрөө өөрийгөө жолооддог машин зэрэг ёс зүйн хиймэл оюун ухааныг дагаж мөрддөг гэсэн худал мэдэгдэл юм.

"Угаах", "угаах" гэсэн үгсийг хэрхэн сунгаж, олон янзын мэргэн ухааны сувдуудыг дамжуулахад ашиглаж болох олон арга замыг судалж үзье.

Жишээлбэл, хүмүүс бохир угаалга олон нийтийн газар угааж болохгүй гэж заримдаа анхааруулдаг гэдгийг бид мэднэ. Насанд хүрэгчид буруу хэлсэн үг нь амаа савангаар угаахад хүргэдэг гэдгийг багадаа анхааруулдаг байсныг би санаж байна. Өөр нэг байнга иш татдаг хэллэг бол бүх зүйл эцэст нь угаасан үед гарч ирдэг юм шиг санагддаг.

Хэрэв та ямар нэг зүйлтэй холбоотой байхыг хүсэхгүй байгаа бол санаа зовж байгаа бол гараа угааж чадах эсэхийг харахыг зөвлөж байна. Угаахтай холбоотой бүх төрлийн асуудлуудыг тойрон эргэлдэж байдаг бөгөөд үүнд таныг ерөнхийд нь угааж эсвэл угааж болно. Өндөгөө нүүрэндээ угаана гэдэг нь хааяа хааяа нэг ярианд гарч ирдэг эртний зүйр үг юм.

Угаалгын янз бүрийн хувилбаруудыг илэрхийлэх өнгө ашиглах нь бас харьцангуй алдартай. Цайруулах тухай ойлголт хамгийн багадаа 1500-аад оноос улбаатай гэдэг. Улаан угаалга, нил ягаан угаах гэх мэт санаа зовниж байна. Тогтвортой байдлын талаар сурталчлахдаа хоосон хонхойж буй үйлдэл мэт боловч өнөө үед ногоон угаалга хийх нь хамгийн түгээмэл хэрэглэгддэг хэллэгүүдийн нэг гэж би хэлж зүрхлэх болно.

Угаалгын хамгийн сүүлийн үеийн хувилбаруудын нэг болох AI Ethics угаах талаар та мэдэхгүй байж магадгүй.

Зарим нь "Ёс суртахуунтай угаалга" гэсэн хэллэгийг товчлохыг илүүд үздэг ч энэ нь зарим нэг төөрөгдөл үүсгэж болзошгүй тул энэ өөр хувилбар нь ёс зүйд чиглэсэн угаалгатай холбоотой байж магадгүй юм. Миний энд хэлэлцэх Ёс суртахууны угаалтын тодорхой хэлбэр нь хиймэл оюун ухаанд төвлөрсөн ёс зүй болон түүнтэй холбоотой бүх ёс зүйн асуудлуудаас бүрдэнэ. Ойлгомжтой болгох үүднээс Ёс зүйн угаалга нь хиймэл оюун ухаантай огт холбоогүй эсвэл огт хамааралгүй олон төрлийн ёс суртахууны угаалгауудыг хамардаг гэдгийг би санал болгож байна. Мөн хиймэл оюун ухааны ёс зүйн угаалга нь хиймэл оюун ухааны салбарт тусгайлан чиглэсэн Ёс зүйн угаалтын нэг төрөл юм.

AI Ёс зүйн угаалга нь яг юунаас бүрддэг вэ гэж та гайхаж байгаа байх.

Миний ерөнхий тодорхойлолт бол AI Ёс зүйн угаалгыг дараах байдлаар тодорхойлж болно.

• Хиймэл оюун ухааны ёс зүйг угаах нь хиймэл оюун ухааны ёс зүйн зарчмуудын талаар санаа зовж буй санаа зовоосон асуудалд уруул илэх юм уу, цонхны хувцас солих, тэр дундаа заримдаа Ёс зүйн AI хандлагыг дагаж мөрдөхгүй байх төдийгүй, хиймэл оюун ухааны ёс зүйн хандлагыг үгүйсгэх, дордуулах хүртэл арга хэмжээ авах явдал юм.

Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI-ын талаарх миний байнгын бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

AI ёс зүйг угаах тухай товч жишээ танд ойлгомжтой байж болох юм.

Хиймэл оюун ухааны системийг бүтээж буй пүүс хиймэл оюун ухаан нь ямар агуу болохыг дэлхий нийтэд мэдээлэхийг хүсч байна гэж бодъё. Хиймэл оюун ухаан хэрхэн ажилладаг нь бүхэлдээ шударга, тэнцвэртэй байхаар зохион бүтээгдсэн гэдгийг олон нийтэд сурталчлах нь хэвлэл мэдээллийн хэрэгсэл болон олон нийтийн мэдээллийн хэрэгслээр хиймэл оюун ухааны талаар эерэг хандлагыг татах нэг арга хэрэгсэл гэж тус компани шийджээ. AI нь бүрэн найдвартай. Энэхүү пүүс нь бий болгох зарчмуудыг чанд баримталдаг Хариуцлагатай AI, миний сурвалжлагыг эндээс үзнэ үү холбоос энд байна. Хиймэл оюун ухааны ёс зүйн бүх давамгайлсан зарчмууд нь хиймэл оюун ухааны системтэй салшгүй холбоотой байсан гэсэн баталгаа юм.

Тааламжтай сонсогдож байна!

Ганцхан л асуудал.

Энэ пүүс эдгээрийн алийг нь ч хийгээгүй нь тогтоогдсон.

Тэд хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөөгүй. Хийсэн гэж хэлсэн ч хийгээгүй. Пүүсийн удирдагчид болон маркетингийн багийнхан Ёс суртахууны AI-ийн талаар хатуу дагаж мөрдсөн гэж мэдэгдсэн нь бизнест ашигтай байх болно гэж шийджээ. Эдгээр уйтгартай AI-ийн ёс зүйн удирдамжтай харьцах хэцүү ажлыг хийх шаардлагагүй бөгөөд үүний оронд зүгээр л хийсэн гэж хэлээрэй.

Voila, тэд хиймэл оюун ухааны ёс суртахууны үндсэн чиглэл рүү шууд орсноор хиймэл оюун ухаанаа сурталчлах боломжтой.

Хялбар тайван.

Гэхдээ энэ бол эрсдэлтэй зам бөгөөд үнэндээ том асуудал үүсгэж болзошгүй юм.

Ёс суртахууны хиймэл оюун ухааныг дагахын тулд өчүүхэн зүйл хийгээгүй байхад хиймэл оюун ухааны ёс зүйг буруугаар ашиглахаар шийдсэн пүүс, удирдагчид асар их үр дагаварт хүргэж болзошгүй юм. Нэгдүгээрт, хэрэв тэд хэзээ нэгэн цагт хиймэл оюун санааны ёс зүйн худал хуурмагийн талаар илчлэгдэх юм бол тэд нэр хүндэд нь ихээхэн сөрөг нөлөө үзүүлэх эрсдэлтэй. Тэд хиймэл оюун ухаант ёс зүйг эрхэмлэдэг гэж худал хэлсэн. Нэмж дурдахад, худал хуурмагт баригдсан нь хиймэл оюун ухаантай холбоотой байхаас үл хамааран Ёс зүй нь тэднийг халуун усанд оруулдаг. Энэ нь худал хэлэх хоёр тал юм.

Хоёрдугаарт, олон тооны хууль эрх зүйн үр дагавар нь тэднийг болон тэдний пүүсийг хаздаг. Нэг нь тэд хийсэн зүйлээ хийгээгүй бөгөөд худал мэдүүлгийнхээ төлөө хуулийн дагуу хариуцлага хүлээх боломжтой. Өөр нэг зүйл бол тэдний хиймэл оюун ухаан нь хэт нэг талыг баримтлах, ялгаварлан гадуурхах зэрэг нийгмийн эмзэг хэсгүүдтэй холбоотой хуулийг зөрчих магадлалтай юм. Хууль эрх зүйн асуудлуудын жагсаалт урт бөгөөд эцэст нь пүүсийг хуулийн дагуу үнэтэй тулалдаанд оруулж, хөлөг онгоцыг бүхэлд нь живүүлэх магадлалтай.

Яагаад пүүс болон түүний удирдагчид хиймэл оюун ухаантай ёс суртахууны угаалга ашиглахаар сонгосон юм бэ?

Ёс суртахууны хиймэл оюун ухааны арга барилыг нэвтрүүлэх нь зарим талаар зардал ихтэй байж болох ч эсрэг талын үндэслэл нь хиймэл оюун ухааны ёс зүйн хандлагыг дагаж мөрдөхөд жинхэнэ хиймэл оюун ухаантай байхын давуу талууд нь эцсийн дүндээ өртөгийг давах болно. Гэсэн хэдий ч зарим фирмүүд хиймэл оюун ухаанаа хурдан гаргахыг илүүд үздэг бөгөөд хожим нь хөгжүүлэлтийн явцад Ёс суртахууны хиймэл оюун ухааныг анхаарч үзээгүйгээс болж гарах үр дагаварт санаа зовох болно.

Одоо надад төлөх юм уу, дараа нь төлөх гэсэн хуучин шугам гарч ирж байх шиг байна. Зарим удирдагчид болон пүүсүүд шоо хаях нь зүйтэй гэж үзэж, "надад төл" гэсэн зарчмаас зайлсхийхийн тулд дараа нь надад төлдөг үнийг төлөх шаардлагагүй болно гэж найдаж байна. AI Ёс зүйн тухай ярихад үнэ төлбөргүй үдийн хоол байдаггүй гэдэгтэй би маргах болно. Та өөрийн үүргээ биелүүлнэ, эсвэл үр дагаврыг нь үүрнэ.

Энэ бүхэнд эргэлзэх орон зай тийм ч их байдаггүй гэсэн үг биш юм.

Пүүсүүд хиймэл оюун ухааны ёс зүйд хөлийнхөө хурууг дүрж, дараа нь хэр их зүйл хийснээ хэтрүүлэхийг оролдож магадгүй юм. Тэдний боломжит таамаглал нь хиймэл оюун ухааны ёс зүйг огт хэрэгжүүлээгүй гэсэн аливаа буруутгалыг эсэргүүцэх хангалттай хамгаалалттай байх болно. Тэд дэгээнээс нь салгаж болзошгүй хиймэл оюун ухааны ёс зүйн зарим төрлийн үйл ажиллагааг зааж өгч болно. Тиймээс маргаан нь тэдний хиймэл оюун ухааны ёс зүйн талаар ямар ч хүчин чармайлт хийгээгүйгээс болж, харин тэд хангалттай хийсэн эсэх нь болж хувирдаг.

Энэ бол бараг төгсгөлгүй маргаан бөгөөд хиймэл оюун ухааны ёс зүй угаагч машинд маневр хийх маш их зай гаргах боломжийг олгодог.

Хиймэл оюун санааны ёс суртахууны талаархи нийтлэг, бүрэн хэрэгжих боломжтой стандартууд хараахан гараагүй байгаа нь сул дорой талуудын нэг хэсэг юм. Нэгдмэл, иж бүрэн хэмжүүр байхгүй бол хиймэл оюун ухааны ёс зүйг зохих ёсоор дагаж мөрдөж байгаа эсэх талаарх аливаа хэлэлцүүлэг сул, бүдэг бадаг болно. Пүүс хангалттай зүйл хийсэн гэж шаардах болно. Гадны хүн эсвэл өөр хүн пүүсийг хангалттай хийгээгүй гэж мэдэгдэж байгаа хүн ийм эсрэг тэмцлийг харуулах өндөр тулаанд орох болно. Хоёрдмол байдал ноёрхож болно.

Хиймэл оюун ухааны ёс зүйг угаахын үндэс болсон зэрлэг ба ноосны талаар илүү олон мах, төмсний талаар ярихаасаа өмнө гүн гүнзгий сэдвүүдийн талаар нэмэлт үндсийг тогтооцгооё. Бид хиймэл оюун ухааны ёс зүй, ялангуяа Machine Learning (ML) болон Deep Learning (DL) бий болсон тухай товчхон танилцах хэрэгтэй.

Өнөө үед хиймэл оюун ухаан, тэр ч байтугай хиймэл оюун ухааны салбарын гаднах хамгийн чанга дуу хоолой бол Ёс суртахууны хиймэл оюун ухааны талаар илүү их дуулиан шуугиан дэгдээх явдал гэдгийг та мэдэхгүй байж магадгүй юм. AI Ёс зүй ба Ёс суртахууны AI гэж юу гэсэн үг болохыг харцгаая. Дээрээс нь би Machine Learning болон Deep Learning-ийн талаар ярихдаа юу хэлэх гээд байгааг судлах болно.

Хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татсан AI ёс зүйн нэг хэсэг буюу хэсэг нь таагүй хандлага, тэгш бус байдлыг харуулдаг хиймэл оюун ухаанаас бүрддэг. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хэсэг хугацааны дараа би AI-ийн ёс зүйн үндсэн зарчмуудыг тантай хуваалцах болно. Ийм олон жагсаалт энд тэнд хөвж байна. Бүх нийтийн давж заалдах, зөвшилцлийн цорын ганц жагсаалт хараахан гараагүй байна гэж та хэлж болно. Энэ бол харамсалтай мэдээ юм. Сайн мэдээ гэвэл ядаж л AI-ийн ёс зүйн жагсаалтууд бэлэн байдаг бөгөөд тэдгээр нь нэлээд төстэй байх хандлагатай байдаг. Энэ бүхэн нь үндэслэлтэй нэгдлийн хэлбэрээр бид хиймэл оюун ухааны ёс зүй юунаас бүрддэг нийтлэг нийтлэг байдалд хүрэх замаа олж байгааг харуулж байна.

Эхлээд хиймэл оюун ухааныг урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд Ёс зүйн AI-ийн ерөнхий зарчмуудын заримыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Холбогдох ажилтнууд хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргууд, тухайлбал ил тод, аудит хийх боломжтой арга зүй, өгөгдлийн эх сурвалж, дизайны журам, баримт бичгийн талаар зохих ойлголттой байхаар хэлтсийн хиймэл оюун ухааны чадавхийг хөгжүүлж, ашиглах болно.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс AI-ийн ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Одоо хиймэл оюун ухааны ёс зүйг угаах сэдэв рүүгээ буцъя.

AI ёс зүйг угаах дөрвөн үндсэн хувилбар байдаг бөгөөд тэдгээр нь ихэвчлэн тохиолддог (би үүнийг хэсэг хугацаанд тайлбарлах болно):

1) Өөрсдийгөө мэддэггүй хиймэл оюун ухааны ёс зүйн угаагчид: Хиймэл оюун ухаан ба/эсвэл хиймэл оюун ухааны ёс зүйн талаар мэдлэггүй эсвэл бичиг үсэг тайлагдаагүйгээс болж угаасан AI ёс зүй

2) Үүнд унасан хиймэл оюун ухааны ёс зүйн угаагчид: Хиймэл оюун ухааны ёс зүй, хиймэл оюун ухаан ба хиймэл оюун ухааны талаар жинхэнэ байсан ч санамсаргүйгээр гулсаж угаадаг.

3) Нимгэн сунгадаг хиймэл оюун ухаант ёс зүй угаагч: AI Ёс зүйг зориуд санаатайгаар угаах нь зүгээр л харгис хэрцгий, заримдаа бараг зөвтгөж болохуйц (эсвэл үгүй)

4) Үүнийг мэддэг, увайгүй байдлаар хийдэг хиймэл оюун ухааны ёс зүйн угаагчид: Хиймэл оюун санааны ёс зүйг бүрэн угааж, зальтай, ихэвчлэн бүдүүлэг загвараар хийдэг

Би ерөнхийдөө дөрвөн хувилбарыг хамгийн гэм зэмгүй гэж хэлэхээс эхлээд хамгийн буруутай нь хүртэл, AI Ёс зүйн угаалга гэж юу болохыг ойлгохыг санал болгож байна. Дөрөв тус бүрээр нь алхаж, эхнийхээс эхлээд нэлээд ичгүүртэй дөрөв дэх рүүгээ явцгаая.

Нэгдүгээрт, хиймэл оюун ухааны ёс зүй гэж юу байдгийг мэддэггүй, хиймэл оюун ухааны ёс зүйг угаалга гэж юу байдгийг мэддэггүй, хиймэл оюун ухааны талаар ч сайн мэддэггүй хүмүүс байдаг. Та тэднийг эдгээр сэдвээр мэдлэггүй эсвэл бичиг үсэг тайлагдаагүй гэж хэлж болно. Тэдний хувьд хиймэл оюун ухааны ёс зүйг угааж, сохроор, аз жаргалтайгаар үүнийг хийж байгаагаа ухамсарлахгүй байгаа байх.

Энэ нь гунигтай юм.

AI ёс зүйг угаалга нь томоохон мэдээллийн агентлаг эсвэл олон нийтийн мэдээллийн хэрэгсэлд нөлөөлөгчөөр хийгдсэн бол энэ нь ялангуяа муу байх болно. Тэд худал хуурмагаар тэжээгдсэн байж магадгүй бөгөөд тэд худал хуурмагийг шалгаагүй. Үүний зэрэгцээ тэд хиймэл оюун ухааны ёс зүйг угаах нэхэмжлэлийг мөнхжүүлэхийн тулд өөрсдийн хүртээмж, нөлөөгөө ашигладаг. Энэ нь нийгэмд хор хөнөөл учруулж байгаа нь харамсалтай бөгөөд хамгийн муу зүйл юм. Өөрийгөө хуурсан хүмүүс ичмээр. Тэд ухаалаг байх хэрэгтэй. Тэнэг байх, тэнэг харагдах нь ойр дотны үеэл гэдгийг санаарай.

Дараагийнх нь AI Ёс зүйн угаалга юм. Пүүс хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөж нэлээд сайн ажиллаж байна гэж төсөөлөөд үз дээ. Үүнийг хийсэнд нь бид баяр хүргэж чадна. Харамсалтай нь тэд AI-ийнхаа талаар зарим нэг мөчид мэдэгдэл хийв гэж бодъё. Хэрэв энэ нь харьцангуй гэм хоргүй мэдэгдэл эсвэл санамсаргүй алдаа байвал бид тэдэнд тодорхой эрх олгож магадгүй юм. Мэдээжийн хэрэг, хэрэв тэдний хэлсэн цэг хэт давсан байвал гулсах нь тийм ч амархан анзаарагдахгүй. Нэр хүндийг бий болгоход үүрд мөнх шаардлагатай ч түүнийг бүрмөсөн устгахад хэдхэн хором л хэрэгтэй гэсэн алдартай мөр байдаг.

Дараа нь бид дөрвөн ангиллын сүүлийн хоёрт орно.

Эдгээр нь хиймэл оюун ухааны ёс зүйг угаах талаар бүрэн мэддэг, ухамсартайгаар үүнийг компанийн стратегийн нэг хэсэг болгон эсвэл бусад бурханлаг арга хэрэгслээр ашиглахаар шийддэг буруутай хүмүүс юм. Эдгээр хоёрын гол ялгаа нь хиймэл оюун ухааны ёс зүйг угаах нь бага зэргийн шинж чанартай эсвэл чухал бөгөөд шийдвэрлэх шинж чанартай байж болох юм. Танд аливаа зүйлийг сунгаж, шугамнаас бага зэрэг давах сонголт бий. AI Ёс зүйн угаалга туйлдаа хүрэхийг хүсдэг бүхэл бүтэн гахайн бусад хүмүүс байдаг.

Хиймэл оюун ухааны ёс зүйг маш ихээр угаах нь мэдээжийн хэрэг тодорхой байх ёстой бөгөөд хэт даврагч жигнэмэгийн саванд гараараа баригдах болно гэж та бодож байж магадгүй юм. Эзэн хаан ямар ч хувцасгүй байхыг хүн бүр харах болно. Харамсалтай нь, өнөөдөр дэлхий дээрх хиймэл оюун ухаан ба хиймэл оюун ухааны ёс зүйн талаархи ерөнхий будлианыг харгалзан үзэхэд хиймэл оюун ухааны ёс зүйг маш ихээр угаасан хүн ч гэсэн үнэ төлбөргүй нэвтрэх эрх авах боломжтой.

Энэ нь хиймэл оюун ухааны ёс зүйн талаар нухацтай, ухаалаг ханддаг хүмүүсийн хувьд нэлээд төвөгтэй байж болох юм. Тэд хиймэл оюун ухааны ёс зүйг угаах явцад илт харагдаж байгаа бүх төрлийн хазайлтыг өөр хэн нэгэн тойрон шидэгдэж байхыг хардаг. Хэт даврагчид хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татдаг. Тэд өөрсдийн зүйр цэцэн үгийн 15 минутын алдар нэртэй байдаг. Хиймэл оюун ухааны ёс зүйн талаар бодит ажил хийж, зөв ​​зүйл хийж байгаа хүмүүс хиймэл оюун ухааны ёс зүйг угаалга хийх ажлыг зах зээл дээр бусад хүмүүс ямар ч үнэ төлбөргүй хийх үед үнэхээр бухимдаж, үндэслэлгүй бухимдах болно.

Үүнийг бараг л спортод гардаг шүүс, допингтой зүйрлэж болно. Байгалиасаа шилдэг тамирчин болохын төлөө зүрх сэтгэл, сэтгэлээ зориулж чадсан тамирчин өөр хэн нэгэн ижил түвшинд өрсөлдөж, хориотой гүйцэтгэлийг сайжруулах эм хэрэглэснээр тэр чигээрээ унадаг. Та нөгөө спойлерыг дуудах ёстой юу? Магадгүй чи чимээгүйхэн эдгээр эмийг ууж, галтай галтай тэмцэх ёстой юу? Энэ бол оньсого юм. AI талбарт шүүс, допинг хэрхэн тохиолддог талаар миний хэлэлцүүлгийг үзнэ үү холбоос энд байна.

Одоо бид хиймэл оюун ухааны ёс зүйг угаах талаар бага зэрэг ярьсны дараа бид ижил талбарт ижил төстэй бусад холбогдох хэллэгүүдийг танилцуулж болно.

Энд бид товчхон судлах боломжтой хэд хэдэн зүйл байна:

• AI Ёс зүйн театр
• AI Ёс зүйн дэлгүүр
• AI-ийн ёс зүйг доромжилж байна
• AI ёс зүйг хамгаалах
• AI Ёс зүйн шударга угаах

Эдгээр үг хэллэг бүрийг товчхон авч үзье. Үг хэллэг бүр яг юуг илэрхийлж байгааг хүн бүр хүлээн зөвшөөрдөггүй тул би та бүхэнтэй өөрийн ерөнхий сэтгэгдлээ хуваалцах болно.

AI Ёс зүйн театр

AI Ёс зүйн театр нь хиймэл оюун ухааны ёс зүйн зарчмуудыг тайзны болон ёслолын хэлбэрээр дагаж мөрдөж буйгаа томоохон хэмжээний харуулах зорилготой учраас хиймэл оюун ухааны ёс зүйг угаахтай зарим талаараа төстэй байж болох юм. Хэрэв цирк эсвэл AI ёс зүйн театрыг удирдаж буй пүүс хиймэл оюун ухааны ёс зүйн практикийг үнэхээр дагаж мөрддөг байсан бол тэд үүнийг хийх боломжтой байх ёстой гэж та нотлох боломжтой. Үнэн хэрэгтээ, энэ нь бусад хүмүүст хиймэл оюун ухааны ёс зүйг дагаж мөрдөхөд түлхэц болно гэж найдаж байна.

Нөгөөтэйгүүр, AI Ёс суртахууны театр ихэвчлэн хэтрүүлэх хандлагатай байдаг. Эдгээр бүх одой морь, заануудтай циркийн үйлдэл нь үнэхээр хийсэн зүйлийг хэтрүүлэн дүгнэх хандлагатай байдаг. Энэ нь эргээд дээр дурдсан AI Ёс суртахууны угаалга авах хоёр, гурав, дөрөв дэх ангилалд орж эхэлдэг. Театр муугаас илүү сайн уу (урам зориг өгөх гэх мэт), эсвэл сайнаас илүү муу уу (хиймэл оюун ухааны ёс зүйг бусад хүмүүс угаахад түлхэц болж магадгүй) эсэхийг харах л үлдлээ.

AI Ёс зүйн худалдаа

Компани хиймэл оюун ухааны системийг бий болгох гэж байна гэж төсөөлж, хиймэл оюун ухааны хөгжлийн амьдралын мөчлөгийн явцад хиймэл оюун ухааны ёс зүйн талыг багтаах ёстой гэдгийг ойлгоорой. AI-ийн ёс зүйн олон удирдамжийн алийг нь ашиглах ёстой вэ?

Тэдгээрийн хэд хэдэнийг нэг дор сонгох нь төөрөгдөл үүсгэж, хиймэл оюун ухааныг нь хэтэрхий том болгож магадгүй юм. Хүн бүр хялбархан хандаж, ойлгох боломжтой дотооддоо батлагдсан нэг багц байвал хөгжүүлэлтийн хүчин чармайлт нь хиймэл оюун ухааны ёс зүйн практикт илүү нийцэх магадлал өндөр байна.

За, AI Ёс зүйн багц зарчмуудыг баримтлах нэг арга бол олон боломжит зарчмуудаас зөвхөн нэгийг нь сонгох явдал юм. Өөр нэг зүйл бол хэд хэдэн багц авч, тэдгээрийг нэгтгэхийг оролдох явдал юм. Нэгтгэхтэй холбоотой асуудал нь багцуудыг нэг цогц болгон хэрхэн хамгийн сайн нэгтгэх талаар мэтгэлцэхэд маш их үнэ цэнэтэй энерги, цаг зарцуулж байгаа явдал байж болох юм. Иймэрхүү анхаарал нь таныг хөгжүүлэлтийн үйл явцыг үргэлжлүүлэхэд саад болохоос гадна хиймэл оюун ухааны багийг AI ёс зүйг нэгтгэх үйл ажиллагааны үеэр гарсан ширүүн маргаанаас болж бухимдуулж магадгүй юм.

Ерөнхийдөө та хамгийн хялбар байх болно гэж үзэж буй хиймэл оюун ухааны ёс зүйн багц удирдамжид анхаарлаа хандуулахыг оролдож болно. Энэ нь маш сайн юм шиг санагдах болно. Яагаад амьдралыг өмнөхөөсөө хэцүү болгож байгаа юм бэ? Яг тэр амьсгаагаар та AI Ёс зүйн багцыг сонгосон гэж бодъё. Та хийж чадах хамгийн бага зүйлээ хийхийг зорьж байна. Та хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөж, толгойгоо өндрөөр барьж, энэ хооронд нууцаар минималист эсвэл бүр бага зүйлийг сонгохыг хүсч байна.

Зарим хүмүүс үүнийг AI Ёс зүйн дэлгүүр гэж нэрлэдэг.

Та хиймэл оюун ухааны ёс зүйн зарчмуудыг олохын тулд дэлгүүр хэсч байгаа бөгөөд энэ нь таныг хиймэл оюун ухааны ёс зүйг дагаж мөрддөг гэдгээ батлах хамгийн хялбар замыг танд өгөх болно. Энэ нь яагаад шаардлагатайгаасаа илүү ихийг хийх ёстой вэ гэдэг утга учиртай юм бэ? Хэдийгээр хиймэл оюун ухааны ёс зүйн нарийн бүрхэгдсэн багцыг олж, бодит байдал нь сийрэг, ахиу байгаа үед бат бөх, үнэнч шударга мэт наалдсанаар үүнийг гажуудуулж болно.

AI-ийн ёс зүйг доромжлох

AI Ёс зүйг доромжлох тухай ойлголт нь зарим талаараа энгийн зүйл юм.

Та хиймэл оюун ухааны ёс зүйн зарчмуудын мөн чанар, ашиглалтыг доромжилж, гутаан доромжилж байна. Хиймэл оюун ухааны ёс зүйн удирдамж нь ямар ч үнэ цэнэгүй, хэвлэсэн цаасан дээр үнэ цэнэтэй зүйл биш гэдгийг батлах нь дээрэлхэх нийтлэг хэлбэр юм. Өөр нэг алдартай баш бол AI Ёс зүй бол бодит ертөнцтэй ямар ч холбоогүй академик дасгал юм. Хиймэл оюун ухаанаа зөв хөгжүүлж байгаа юм шиг санагдахыг хүсдэг хүмүүст хуурамч халхавч өгдөг учраас хиймэл оюун ухааны ёс зүй муу гэсэн сургаал хүртэл байдаг. Ийм байдлаар AI-ийн ёс зүй нь далдлах схем юм.

Би хиймэл оюун ухааны ёс зүйг доромжлох үзэгдлүүдийг үл тоомсорлож, эдгээр башууд яагаад буруу эсвэл ядаж буруугаар удирдуулсан тухай миний нийтлэлийг үзэхийг санал болгож байна. холбоос энд байна.

AI ёс зүйн хамгаалалт

AI ёс зүйг хамгаалах нь ихэвчлэн хиймэл оюун ухааны ёс зүй нь муу жүжигчид болон хиймэл оюун ухааны ёс зүйн хүчин чармайлтыг нуун дарагдуулж, далдлахуйц хуурамч төрлийн бамбай гэсэн санааг илэрхийлдэг. Энэ хэлэлцүүлгийн туршид би энэ талаар олон удаа дурдсан.

Зарим хүмүүс хиймэл оюун ухааны ёс зүйг ашиглаж байгаа гэдгээ бахархалтайгаар харуулах гэсэн түгшүүр үргэлжилсээр байгаа бөгөөд үндсэн бодит байдал нь тэд энэ төрлийн бараг юу ч хийхгүй байгаа явдал юм. Бамбайг бүрмөсөн арилгах ёстой гэж байгаа хүмүүсийн хувьд энэ нь хүүхдээ ванны усаар хаяхтай адил зүйл гэж би хариулах хандлагатай байдаг.

AI Ёс зүйн шударга угаах

Шударга байх нь чухал.

Хиймэл оюун ухааны ёс зүйн зарчмуудын талаар ярилцаж байх үед хамгийн түгээмэл хэрэглэгддэг хиймэл оюун ухааны ёс зүйн удирдамжийн нэг нь хиймэл оюун ухаан шударга байх эсвэл шударга ёсны дүр төрхийг харуулахыг оролдох явдал байсныг та санаж байгаа байх. Энэ нь хиймэл оюун ухааны системийг шударга бус эсвэл шударга гэдгийг батлах нотолгоо багатай үед шударга гэж хэлэх эсвэл зарлах боломжийг өдөөх зорилгоор "шударга угаах" гэсэн сэтгэл татам хэллэгийг бий болгосон. Энэ бол хиймэл оюун ухаан шударга байх үзэл баримтлалыг харгалзан AI ёс зүйг угаахын бага зэрэг эвлүүлбэр юм, тиймээс үүнийг илэрхийлэх товч арга бол боломжит боломжтой гэж хэлэх явдал юм. шударга угаах ийм зүйл тохиолдож болно. Судлаачид энэ асуудлыг ингэж тайлбарлаж байна: "Ялангуяа, машин сургалтын явцад шударга ёсны үзэл баримтлалын ач холбогдол нэмэгдэж байгаатай холбоотойгоор компани шударга угаах аргад уруу татагдаж магадгүй бөгөөд энэ нь компанийн ашиглаж буй сургалтын загварууд гэсэн буруу ойлголтыг бий болгож байна гэж бидний тодорхойлсон байдаг. тийм биш ч гэсэн шударга байна” (Ульрих Айводжи, Хироми Арай, Оливье Фортино, Себастьян Гамбс, Сатоши Хара, Ален Тапп нар “Шударга угаах: оновчтой болгох эрсдэл”).

AI ёс зүйг угаах талаар таны анхаарах ёстой өөр нэг эргэлт бий.

Бага зэрэг макроскопийн хэмжээнд AI Ёс зүйн өсөлт нь бүр илүү агуу зүйлд халхавч, халхавч болж байна гэсэн санаа зовниж байна. AI-ийн засаглалын тухай хууль тогтоомжийг бий болгохын тулд олон хүчин чармайлт хийгдэж байгааг та мэдэж байгаа байх. Энэ нь дэлхий даяар болж байна. Миний нийтлэлд дурдсан ЕХ-нд, мөн АНУ-д олон улс оронд идэвхтэй хүчин чармайлт хийгдэж байна.

Зарим хүмүүс хиймэл оюун ухааны ёс зүйг нэвтрүүлэх нь эдгээр хуулийг батлахаас сэргийлэх арга хэрэгсэл байж магадгүй гэж үзэж байна. Хиймэл оюун ухааны ёс зүйг ашиглах нь AI-ийн аливаа асуудлыг зөв зохицуулдаг тул шинэ хууль гаргах шаардлагагүй гэж компаниуд үнэмшилтэй мэт маргаж болно. Хиймэл оюун ухааны ёс зүйг ихэвчлэн "зөөлөн хууль"-ийн нэг хэлбэр гэж ангилдаг бөгөөд сайн дурын үндсэн дээр (бусад бүх зүйл тэнцүү) байдаг. AI-ийн тухай хуулиудыг "хатуу хуулиуд" гэж ангилдаг бөгөөд сайн дурын үндсэн дээр байдаггүй (ерөнхийдөө).

Пүүсүүд хатуу хуулиас илүү зөөлөн хуулиудыг илүүд үзэж, тэдэнд илүү өргөн, чөлөөтэй байх боломжийг олгодог гэж ихэвчлэн ярьдаг. Энэ мэдрэмжтэй хүн бүр санал нийлэхгүй байна. Зөөлөн хуулиуд нь пүүсүүдэд зохисгүй хүчин чармайлтаас ангижрах боломжийг олгодог бөгөөд хатуу хуулиудыг батлах цорын ганц арга зам гэж зарим хүмүүс хэлдэг. Зарим нь пүүсүүд илүү тодорхой нөхцөлөөр хангах хатуу хуулиудыг илүүд үздэг гэж зарим хүмүүс онцолж байна. Хатуу хуулиуд нь бүх тоглогчдыг ижил дүрмийг дагаж мөрдөхөд хүргэдэг. Зөөлөн хуулиуд нь сонгох, сонгох боломжийг олгодог бөгөөд ингэснээр төөрөгдөл үүсгэж, тоглоомын талбарыг тасалдуулж байна.

Судалгаанаас харахад хиймэл оюун ухааны ёс зүйг хэрхэн угаалга хийж байгаа талаар юу болж байгааг илүү өргөн хүрээнд дүрсэлсэн байна: “Нэг талаас, энэ нэр томъёог компаниуд зохицуулалтыг бууруулах, өөрийгөө зохицуулах эсвэл зах зээлд суурилсан засаглалыг зөвтгөдөг хүлээн зөвшөөрөгдсөн нүүр царай болгон ашиглаж ирсэн. Технологийн компаниудын хувийн ашиг сонирхлын үүднээс ёс суртахууны зан үйлийн дүр төрхийг нэвтрүүлэх хандлага улам бүр нэмэгдсээр байна. Технологийн компаниудын ёс суртахууны хэллэгийг улам бүр нэмэгдүүлж байгааг бид "ёс зүй угаах" гэж нэрлэдэг. AI-ийн ёс зүйн зөвлөлөөс гадна ёс суртахууны угаалга нь компанийн харилцааны стратегийн нэг хэсэг болох ёс зүйн ажлын үнэ цэнийг хялбарчлах бусад оролдлогуудыг багтаадаг: компанийн дотоод бодлогыг боловсруулах эрх мэдэл багатай дотоод ёс суртахууны философичдыг ажилд авах; Бүтээгдэхүүний оршин тогтнолтой холбоотой эрсдэлтэй тэмцэхийн оронд хүнлэг дизайнд анхаарлаа хандуулах, тухайлбал, хэрэглэгчдийг аппликейшн дээр зарцуулах цагийг багасгахад түлхэц өгөх; "Шударга" машин сургалтын системүүдийн ажлын санхүүжилт нь тэдгээр тогтолцооны нийгэмд үзүүлэх нөлөөний талаар илүү гүнзгий асуулт асуухад эерэгээр нөлөөлсөн" (Элеттра Биетти, "Ёс суртахууныг угаахаас ёс зүйг доромжлох хүртэл: Ёс суртахууны философи дотроос технологийн ёс зүйн үзэл бодол," Шударга ёс, хариуцлага, ил тод байдлын 2020 оны хурлын эмхэтгэл).

Энэхүү чухал хэлэлцүүлгийн яг энэ мөчид та энэ сэдвийг харуулсан зарим жишээг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд гарч ирснээр AI ёс зүйг угаах талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машин ба хиймэл оюун ухааны ёс зүйг угаах

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний ярих гэж буй зүйлийн үндэс болох хангалттай олон тооны анхааруулгыг өгнө гэж найдаж байна.

Автономит машинууд энд бий, өөрөө жолооддог машинууд аль хэдийн төгс төгөлдөр болсон гэсэн зоригтой мэдэгдлийг тунхагласан гарчигуудыг та бараг харсан байх. Үүний үр дагавар нь ихэвчлэн бие даасан байдлын асуудлыг шийддэг. Бид хүний ​​жолооч шиг сайн, магадгүй хүнээс ч илүү сайн хиймэл оюун ухаан гаргаж авсан.

Зүгээр л тэр хөөсийг гаргаж, рекордыг тогтоохын тулд энэ нь хараахан болоогүй байна.

АНУ-д жолооч нар жилд 2.5 сая автомашины осолд орж, 40,000 гаруй хүний ​​амь нас хохирдог гэдгийг бид мэднэ. холбоос энд байна. Хүний жолоочоос илүү аюулгүй эсвэл аюулгүй жолоодох боломжтой бол AI жолоодлогын системийг ямар ч үндэслэлтэй мэт санагдуулна. Цаашилбал, бид бүгдэд зориулсан хөдөлгөөнт байдлыг мэдэрч, өнөөдөр хөдөлгөөнт чадвар нь хязгаарлагдмал байгаа хүмүүст тав тухтай, хямд тээвэрлэлт хийхэд бэлэн нэвтрэх боломжийг олгодог хиймэл оюун ухаанаар жолооддог тээврийн хэрэгсэлтэй болох боломжийг олгоно гэж найдаж байна.

Зарим шинжээчид "нэмэлт миль" туулж, өөрөө жолоодлоготой машинууд осолдох боломжгүй гэж гутамшигтай мэдэгддэг. Энэ бол туйлын муухай бөгөөд бүрэн худал юм. Хамгийн муу нь, энэ нь биелүүлэх боломжгүй өндөр хүлээлтийг бий болгож байна. Хэрэв та өөрөө жолоодлоготой машинууд осолдох боломжгүй гэж ард түмэнд итгүүлж чадвал өөрөө жолоодлоготой машинтай холбоотой осол гарах тэр мөчид тэд хашгирч, хашгирах болно. Мөргөлдөөгүй нэхэмжлэл нь яагаад нийгэмд сөрөг нөлөө үзүүлж байгаа талаар дэлгэрэнгүй тайлбарлахыг хүсвэл миний сурвалжлагыг үзнэ үү. холбоос энд байна.

Хэрэв та хиймэл оюун ухааны ёс зүйн зарчмуудыг баримталж байгаа бол ийм зэрлэг, үндэслэлгүй мэдэгдлийг гаргах ёсгүй гэсэн эдгээр бүх хэтрүүлэг эсвэл бусад худал хуурмаг зүйл нь хиймэл оюун ухааны ёс зүйн зарчмуудад хамрагдсан гэж хэлж болно. Иймээс эдгээр буруу ташаа мэдээлэл, худал худал нь AI Ёс зүй угаах бүлэгт амархан багтдаг.

Автономит болон өөрөө жолооддог машинтай холбоотой хиймэл оюун ухааны ёс зүйг угаах нь харамсалтай нь өргөн бөгөөд маш элбэг байдаг. Интернэтээс энгийн бөгөөд энгийн хайлт нь танд автомат жолоодлоготой тээврийн хэрэгслийн талаарх олон тэрбум, үндэслэлгүй мэдэгдлийг харуулах болно. Энэ нь зөвхөн өөрсдийн блог дээр байгаа хүмүүст хязгаарлагдахгүй. Томоохон мэдээллийн агентлагууд үүнд автдаг. Томоохон компаниуд үүнд автдаг. Стартапууд үүнд автдаг. Венчур капиталын пүүсүүд үүнд автдаг. Хувьцаа эзэмшигчид үүнд автдаг. гэх мэт.

Энэ салбарт AI ёс зүйг угаах нь өргөн тархсан гэж би гунигтай итгэлтэйгээр хэлэх болно.

Бие даасан байдал, бие даасан системийг агуулсан хиймэл оюун ухааны ёс зүйг угаах тухай онцлох хэллэгийн тусгай хувилбар бол бие даасан угаах тухай ойлголт юм. Зохиогч Лиза Диксон үүнийг дараах байдлаар дүрсэлсэн байна: “Автоматжуулалтад дасан зохицсон, автоматаар угаах гэдэг нь хэсэгчлэн эсвэл хагас бие даасан бүтээгдэхүүн, үйлчилгээ, технологид шаардлагатай хүний ​​хяналтын зохих түвшнийг буруу илэрхийлсэн баталгаагүй эсвэл төөрөгдүүлсэн нэхэмжлэл гаргах практик гэж тодорхойлогддог. Системийн чадавхийг ямар ч нөхцөлд найдвартай гүйцэтгэх чадвараас хэтрүүлсэн тохиолдолд автоматаар угаах ажиллагааг бүрэн бие даасан системд өргөтгөж болно. Автоматаар угаах нь аливаа зүйлийг байгаагаасаа илүү бие даасан мэт харагдуулдаг. Автоматаар угаахын зорилго нь системийн техникийн чадавхитай нийцэхгүй байгаа системийн найдвартай байдлын түвшинг илэрхийлэх өнгөц хэллэг ашиглан аж ахуйн нэгжийг ялгах ба/эсвэл өрсөлдөх давуу талыг санал болгох явдал юм. Автоматжуулсан системийн чадавхийн талаарх алдаатай мэдээллийг нөгөөд нь мэдэлгүй давтахад автоматаар угаах нь санамсаргүй тохиолдож болно. Автоматаар угаах нь хуурамч мэдээллийн нэг хэлбэр бөгөөд энэ нь нэг ёсондоо вирус юм."Тээврийн судалгааны салбар хоорондын хэтийн төлөв, "Автоматаар угаах: Автомашины автоматжуулалтыг ногооноор угаах," 2020).

Миний өмнөх заавраас сануулахад, хиймэл оюун ухааны ёс зүйг угаах дөрвөн үндсэн хувилбар байдаг бөгөөд тэдгээр нь бие даасан тээврийн хэрэгслийн салбарт ч амархан олддог.

• Өөрсдийгөө мэддэггүй хиймэл оюун ухааны ёс зүйн угаагчид: Автономит тээврийн хэрэгсэлд хиймэл оюун ухаан ба/эсвэл хиймэл оюун ухааны ёс зүйн талаар мэдлэггүй эсвэл бичиг үсэг үл мэдэгдлийн улмаас хиймэл оюун ухааны ёс зүйг угааж байна.
• Үүнд унасан хиймэл оюун ухааны ёс зүйн угаагчид: Хиймэл оюун ухааны ёс зүй нь автомат жолоодлоготой тээврийн хэрэгсэлд хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны талаар жинхэнэ боловч санамсаргүй гулсах замаар угааж байна.
• Нимгэн сунгадаг хиймэл оюун ухаант ёс зүй угаагч: Хиймэл оюун ухааны ёс зүйг зориудаар угаалга хийх нь зүгээр л довтолгооноор, заримдаа бие даасан тээврийн хэрэгсэлд бараг зөвтгөгдөх (эсвэл үгүй) юм.
• Үүнийг мэддэг, увайгүй байдлаар хийдэг хиймэл оюун ухааны ёс зүйн угаагчид: Автономит тээврийн хэрэгсэлд хуурамч, ихэвчлэн бүдүүлэг загвараар бүрэн угааж буй хиймэл оюун ухааны ёс зүй

Нэмж дурдахад та бие даасан байдлын талбарт хиймэл оюун ухааны ёс зүйн бусад төрлийн угаалга болон түүнтэй холбоотой угаах өвчний жишээг хялбархан харж болно, үүнд:

• AI Ёс зүйн театр бие даасан тээврийн хэрэгсэл болон өөрөө явагч машинд
• AI Ёс зүйн дэлгүүр бие даасан тээврийн хэрэгсэл болон өөрөө явагч машинд
• AI-ийн ёс зүйг доромжилж байна бие даасан тээврийн хэрэгсэл болон өөрөө явагч машинд
• AI ёс зүйг хамгаалах бие даасан тээврийн хэрэгсэл болон өөрөө явагч машинд
• AI Ёс зүйн шударга угаах бие даасан тээврийн хэрэгсэл болон өөрөө явагч машинд

Дүгнэлт

AI Ethics угаах нь бидний эргэн тойронд байдаг. Бид үүнд усанд орж байна.

Энэхүү ноцтой бөгөөд эцэс төгсгөлгүй мэт зүйлд анхаарлаа хандуулснаар та хиймэл оюун ухааны ёс зүйг хэзээ угааж байгаагаа мэдэж чадна гэж найдаж байна. Үүнийг ойлгоход хэцүү байж магадгүй юм. AI ёс зүйг угаалга хийдэг хүмүүс маш ухаалаг, зальтай байж болно.

Нэг ашигтай арга бол худал эсвэл хэтрүүлэгтэй холилдсон бага зэрэг үнэнийг угаалгын өрөөнд холих явдал юм. Та үнэнийг шууд илрүүлж, хүлээн зөвшөөрч болох тул нөгөө худал эсвэл хууран мэхлэх хэсэг нь үнэн гэдэгт итгэх итгэлд автаж магадгүй юм. Хууран мэхлэлтийн дажгүй, муухай хэлбэр.

Хог угаах гэж нэрлэе.

AI ёс зүйг шууд угаадаг хүмүүсийн амыг зайлуулж чадах уу?

Хүссэн шигээ тийм ч хялбар биш гэдгийг дуулгахад уучлаарай. Ингэж хэлэхэд хиймэл оюун ухааны ёс зүйг угаах нь хэцүү, заримдаа хүнд чулууг толгод руу түлхэж буй Сисифтэй адил тул бид хичээх хэрэгтэй.

Хэрэв та үүнийг мэдэхгүй байсан бол Зевс түүнд энэ чулууг үүрд мөнхөд түлхэхийг даалгасан бөгөөд хүч чармайлт оргилд хүрмэгц асар том чулуу үүрд буцаж эргэлдэнэ. AI Ёс зүйг угаахтай холбоотой асуудал манайд тулгарч байна гэж би бодож байна.

Угаах шаардлагатай AI Ёс зүйн илүү олон төрлийн угаалга үргэлж байх болно. Энэ бол ямар ч хүсээгүй баталгаа юм.