AI-ийн ёс зүй ба хиймэл оюун ухааны тухай хууль нь жинхэнэ хиймэл оюун ухаан гэж юу болохыг тодруулсан

Итгэл бол бүх зүйл гэж тэд хэлдэг.

Алдарт гүн ухаантан Лао Цзу хангалттай итгэдэггүй хүнд итгэхгүй гэж хэлсэн. Хүндэт зохиолч Эрнест Хэмингуэй хэн нэгэнд итгэж болох эсэхээ мэдэх хамгийн сайн арга бол түүнд итгэх явдал гэж хэлсэн байдаг.

Энэ хооронд итгэл үнэмшил нь үнэ цэнэтэй бөгөөд хэврэг юм шиг санагддаг. Хүнд байгаа итгэл нь хөзрийн байшин шиг нурж, эсвэл хөөрсөн бөмбөлөг шиг гэнэт хагарч болно.

Эртний Грекийн эмгэнэлт зохиолч Софокл итгэл үхдэг, харин үл итгэлцэл цэцэглэдэг гэж үздэг. Францын философич, математикч Декарт биднийг нэг удаа ч гэсэн хуурсан хүмүүст бүрэн итгэхгүй байх нь ухаалаг хэрэг гэж үздэг. Тэрбумтан бизнесийн хөрөнгө оруулагч, ер бусын хөрөнгө оруулагч Уоррен Баффет итгэл үнэмшилтэй нэр хүндийг бий болгоход хорин жил, түүнийг сүйтгэхийн тулд таван минут шаардагдана гэж зөвлөжээ.

Итгэлийн талаарх эдгээр олон янзын үзэл бодол, өдөөн хатгасан санаанууд нь хиймэл оюун ухаан (AI) бий болоход маш чухал гэдгийг мэдээд та гайхах байх.

Тиймээ, маш их дурьдсан зүйл байдаг найдвартай AI Энэ нь хиймэл оюун ухааны салбар дотроос гараараа хашгирах, мөн хиймэл оюун ухаанаас гадуурх хүмүүсийн дуулиан шуугиан зэрэг олон хүний ​​анхаарлыг татсаар байна. Нийтлэг ойлголт нь нийгэм хиймэл оюун ухааны системд итгэх итгэлийг бий болгоход бэлэн байгаа эсэхээс хамаарна.

Нийгэм хиймэл оюун ухаанд итгэхгүй эсвэл итгэхгүй бол хиймэл оюун ухаант системүүд таталцаж чадахгүй байх магадлалтай. Бидний мэдэж байгаагаар хиймэл оюун ухаан одоохондоо хойшоо түлхэгдэж, тоос цуглуулах болно. Гайхалтай нь хиймэл оюун ухаан нь маш их оролдсон боловч гайхалтай бүтэлгүйтсэн өндөр технологийн туршилтаас өөр юу ч биш болж түүхэнд унасан хог хаягдлын бөөгнөрөлд орж магадгүй юм. Хиймэл оюун ухааныг сэргээх аливаа хүчин чармайлт нь асар их тэмцэлтэй тулгарах бөгөөд бүх төрлийн эсэргүүцэл, шууд эсэргүүцлээр зогсох болно. Хиймэл оюун ухаанд итгэлгүй байгаатай холбоотой бололтой.

Аль нь болох вэ, бид хиймэл оюун ухаанд итгэх үү, эсвэл хиймэл оюун ухаанд итгэхгүй байх уу?

Нэг ёсондоо бид үнэхээр найдвартай хиймэл оюун ухаантай болох уу?

Эдгээр нь урьд өмнө шийдэгдээгүй асуултууд юм. Үүнийг задлаад үзье.

Хиймэл оюун ухааны ёс зүй ба найдвартай хиймэл оюун ухааны төлөөх тэмцэл

Хиймэл оюун ухаан дахь олон хүмүүсийн итгэл үнэмшил бол хиймэл оюун ухааны системийг хөгжүүлэгчид найдвартай хиймэл оюун ухааныг зохих ёсоор зохион бүтээснээр хиймэл оюун ухаанд итгэх итгэлийг олж авах боломжтой гэж үздэг. Үүний мөн чанар нь хэрэв хиймэл оюун ухаан анхнаасаа найдвартай мэт санагдахгүй бол та итгэлийг олж авна гэж найдаж болохгүй. Хиймэл оюун ухааны системийг найдвартай гэж үздэг байдлаар гаргаснаар хүмүүс хиймэл оюун ухааныг хүлээн зөвшөөрч, хиймэл оюун ухааны хэрэглээг нэвтрүүлэх бүрэн боломж бий.

Энэхүү найдвартай хиймэл оюун ухаанд эргэлзээ төрүүлж буй нэг зүйл бол бид аль хэдийн ийм байдалд орсон байж магадгүй юм олон нийтийн итгэлийн алдагдал AI-ийн тухай ярихад. Бидний өмнө нь харсан хиймэл оюун ухаан нүх ухаж, асар их хэмжээний итгэлийг эвдсэн гэж хэлж болно. Тиймээс хиймэл оюун ухаан нь найдвартай байдлын хангалттай баазаас эхлэхийн оронд хүмүүсийг хиймэл оюун ухаан найдвартай гэдэгт итгүүлэхийн тулд хүссэн унц итгэл үнэмшил бүрийг дагах хэрэгтэй болно.

Энэхүү сорилтод хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хууль ордог.

Хиймэл оюун ухааны ёс зүй болон хиймэл оюун ухааны тухай хууль нь хиймэл оюун ухааныг найдвартай болгохын тулд юу шаардлагатайг олж мэдэхийн тулд маш их тэмцэж байна. Зарим хүмүүс хиймэл оюун ухааныг найдвартай тэнгэрт хүргэх томьёо эсвэл төмөр хуулиуд байдаг гэж үздэг. Нийгэмд итгэх итгэлийг олж авахын тулд шаргуу хөдөлмөр, хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн зарчмуудыг тууштай, тууштай дагаж мөрдөх шаардлагатай гэдгийг зарим хүмүүс хэлж байна.

AI-д итгэх итгэлийн талаарх орчин үеийн оньсого нь шинэ зүйл биш юм.

Та 1990-ээд оны сүүл рүү буцаж очоод, тэр үеийн "итгэмжлэгдсэн тооцоолол"-ыг эрэлхийлсэн хүсэл тэмүүлэл бий болсныг ажиглаж болно. Энэ нь бүх компьютерийг нийгэмд найдвартай гэж ойлгохуйц байдлаар хийж чадах эсэхийг олж мэдэх технологийн салбарын томоохон хүчин чармайлт байв.

Гол асуултуудаас бүрдсэн:

• Компьютерийн техник хангамжийг найдвартай болгох боломжтой юу?
• Програм хангамж нь найдвартай байхаар бүтээгдсэн байж болох уу?
• Бид найдвартай дэлхийн сүлжээнд холбогдсон компьютеруудыг байрлуулж чадах уу?
• Тиймээ.

Тэр үед болон өнөөдрийг хүртэл давамгайлж байгаа санаа бол найдвартай тооцоолол нь харамсалтай нь бидний хүртээмжгүй хэвээр байгаа ариун арга зам хэвээр байгаа ("Итгэмжит хиймэл оюун ухаан" гэсэн гарчигтай баримт бичигт дурдсанчлан). МУЗ-ийн харилцаа холбоо). Хиймэл оюун ухаан нь тооцооллын найдвартай байдлын өөр нэг бүрэлдэхүүн хэсэг гэж та баттай маргаж болох ч AI нь итгэлцлийн эрэл хайгуулыг улам хэцүү, тодорхойгүй болгодог. AI нь найдвартай тооцоололд хүрэхийн төлөөх тэмцэлд болзошгүй хорлон сүйтгэгч болсон. Магадгүй гинжин хэлхээний хамгийн сул холбоос байж магадгүй юм.

Хиймэл оюун ухаан яагаад бидний итгэл үнэмшил багатай байх талаар төөрөлдсөнийг хурдан харцгаая. Нэмж дурдахад бид өнөөгийн хиймэл оюун ухаанд аль хэдийн хагас усан доогуур хүлээн зөвшөөрөгдсөн итгэлцлийг (эсвэл үүсээд буй үл итгэх байдлыг) дэмжихэд тусална гэж найдаж буй хиймэл оюун ухааны ёс зүйн зарчмуудыг судлах болно. Хиймэл оюун ухааны ёс зүйн талаарх миний үргэлжилсэн бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татсан AI ёс зүйн нэг хэсэг буюу хэсэг нь таагүй хандлага, тэгш бус байдлыг харуулдаг хиймэл оюун ухаанаас бүрддэг. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хэсэг хугацааны дараа би AI-ийн ёс зүйн үндсэн зарчмуудыг тантай хуваалцах болно. Ийм олон жагсаалт энд тэнд хөвж байна. Бүх нийтийн давж заалдах, зөвшилцлийн цорын ганц жагсаалт хараахан гараагүй байна гэж та хэлж болно. Энэ бол харамсалтай мэдээ юм. Сайн мэдээ гэвэл ядаж л AI-ийн ёс зүйн жагсаалтууд бэлэн байдаг бөгөөд тэдгээр нь нэлээд төстэй байх хандлагатай байдаг. Энэ бүхэн нь үндэслэлтэй нэгдлийн хэлбэрээр бид хиймэл оюун ухааны ёс зүй юунаас бүрддэг нийтлэг нийтлэг байдалд хүрэх замаа олж байгааг харуулж байна.

Эхлээд хиймэл оюун ухааныг урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд Ёс зүйн AI-ийн ерөнхий зарчмуудын заримыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Холбогдох ажилтнууд хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргууд, тухайлбал ил тод, аудит хийх боломжтой арга зүй, өгөгдлийн эх сурвалж, дизайны журам, баримт бичгийн талаар зохих ойлголттой байхаар хэлтсийн хиймэл оюун ухааны чадавхийг хөгжүүлж, ашиглах болно.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс AI-ийн ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Үүнийг найдвартай хиймэл оюун ухааны тухай асуулттай холбож үзье

Сөрөг хандлага, ялгаварлан гадуурхах үйлдлийг харуулсан хиймэл оюун ухаанд бид итгэхийг хүсэхгүй нь лавтай. Энэ тохиолдолд бидний итгэл үнэмшил бол ийм хиймэл оюун ухаан нь тийм ч найдвартай биш тул бид хиймэл оюун ухаанд идэвхтэй итгэхгүй байх болно. Антропоморфийн харьцуулалтаас хэтрүүлэхгүйгээр (би хиймэл оюун ухааныг антропоморфизмын талаар хэсэг хугацааны дараа хэлье) сөрөг хандлагатай хүнийг тийм ч найдвартай биш гэж үнэлэх болно.

Итгэлцэл ба найдвартай байдлыг ухах

Магадгүй бид хэн нэгэнд эсвэл ямар нэгэн зүйлд итгэдэггүй, итгэдэггүй гэдгээ батлахдаа юу хэлэх гээд байгааг харах хэрэгтэй байх. Эхлээд итгэлцлийн тухай өдөр тутмын толь бичгийн хэд хэдэн тодорхойлолтыг авч үзье.

Итгэлцэл нь юу гэсэн үг болохыг жишээ болгон дурдвал:

• Хэн нэгний эсвэл ямар нэг зүйлийн зан чанар, чадвар, хүч чадал, үнэнд итгэлтэй байх (Merriam-Webster онлайн толь бичиг).
• Хүн, зүйлийн бүрэн бүтэн байдал, хүч чадал, чадвар, баталгаа гэх мэт зүйлд найдах (Dictionary.com)
• Хэн нэгний эсвэл ямар нэг зүйлийн найдвартай байдал, үнэн, чадвар, хүч чадалд бат итгэлтэй байх (Оксфордын хэлний онлайн толь бичиг).

Эдгээр бүх тодорхойлолтууд нь "хэн нэгэн" гэсэн утгатай бөгөөд "ямар нэг зүйл" -ийг найдвартай гэж үздэг болохыг тэмдэглэхийг хүсч байна. Энэ нь анхаарал татахуйц зүйл бөгөөд зарим нь бид зөвхөн хүнд л итгэдэг, итгэл найдвар нь зөвхөн хүн төрөлхтөнд зориулагдсан гэж бидний итгэл үнэмшлийн зорилт гэж үздэг. Тийм ч. Та гал тогооны шарагчдаа итгэж болно. Хэрэв энэ нь таны шарсан талхыг найдвартай хийж байгаа мэт санагдаж, үүнийг байнга хийдэг бол талх шарагч үнэхээр найдвартай эсэх талаар та итгэлтэй байж болно.

Үүнтэй ижил үзэл бодлын дагуу хиймэл оюун ухаан нь бидний итгэлийн үзэл бодлын сэдэв байж болно. Хиймэл оюун ухаантай холбоотой итгэлцэл нь энгийн талх шарагчаас хамаагүй илүү төвөгтэй байх магадлал өндөр байна. Шарсан шарагч нь ихэвчлэн хэдхэн үйлдэл хийж чаддаг. AI систем нь илүү төвөгтэй бөгөөд тунгалаг байдлаар ажиллахгүй байх магадлалтай. AI-ийн найдвартай байдлыг үнэлэх, тодорхойлох бидний чадвар нь илүү хэцүү бөгөөд тодорхой сорилтуудыг авчрах нь дамжиггүй.

Ердийн хиймэл оюун ухааны систем нь илүү төвөгтэй байхаас гадна тодорхойгүй, өөрийгөө зохицуулах эсвэл өөрийгөө тохируулах чадвартай гэж үздэг. Бид энэ ойлголтыг товчхон авч үзэж болно.

Детерминист машин нь урьдчилан таамаглахуйц, хэрхэн ажиллаж байгаа нь ойлгомжтой загвараар ижил зүйлийг дахин дахин хийх хандлагатай байдаг. Та ердийн талх шарагчийг ойролцоогоор ижил аргаар шарсан гэж хэлж болно, мөн шарсан талхыг зохицуулдаг шарсан талхны удирдлагатай бөгөөд эдгээрийг бүгдийг нь шарагч хэрэглэж буй хүн урьдчилан таамаглаж болно. Үүний эсрэгээр, нарийн төвөгтэй AI системүүд нь ихэвчлэн тодорхой бус байхаар бүтээгдсэн байдаг бөгөөд энэ нь таны хүлээж байснаас тэс өөр зүйлийг хийж чадна гэсэн үг юм. Хэрэв хиймэл оюун ухаан нь өөрийгөө тохируулахын тулд бичигдсэн бол үүнийг хэсэгчлэн нэмэгдүүлэх боломжтой бөгөөд энэ нь ML/DL тохиолдолд хиймэл оюун ухааныг сайжруулах боломжийг олгодог боловч хиймэл оюун ухааныг ганхуулах эсвэл зэрэглэлд ороход хүргэж болзошгүй юм. AI муугийн тухай. Хиймэл оюун ухааны үйлдлээс шалтгаалаад баригдсан тул та яг юунд өртсөнийг мэдэхгүй байж магадгүй юм.

AI-г найдвартай байдалд ойртуулахын тулд бид юу хийж чадах вэ?

Нэг арга нь хиймэл оюун ухааныг бий болгож, хөгжүүлж байгаа хүмүүс хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөж байгаа эсэхийг баталгаажуулахыг оролдох явдал юм. Эдгээр хиймэл оюун ухааны судлаачдын дурьдсанчлан: "Итгэл гэдэг нь агент нь хүлээгдэж буй байдлаар аашилж, зорилгодоо хүрэхийн тулд найдаж болно гэсэн хандлага юм. Төлөөлөгч болон итгэмжлэгдсэн хувь хүний ​​хоорондох алдаа эсвэл үл ойлголцлын дараа итгэл нь эвдэрдэг. Хиймэл оюун ухаанд итгэх сэтгэл зүйн төлөв байдал нь ихэвчлэн дизайн, сургалт, байршуулалт, гүйцэтгэлийн хэмжилт, зохицуулалт, дахин дизайн, давтан сургах олон мөчлөгийг багтаасан цогц системийн онцгой шинж чанар юм. МУЗ-ийн харилцаа холбоо, Стюарт Миддлтон, Эммануэль Летуз, Али Хоссэйни, Адриан Чапман нарын "Европын бүс дэх итгэлцэл, зохицуулалт, давталт дахь хүний ​​хиймэл оюун ухаан", 2022 оны XNUMX-р сар).

Гол санаа нь хэрэв бид хиймэл оюун ухаан хөгжүүлэгчдийг Ёс суртахууны хиймэл оюун ухааныг дагаж мөрдүүлж чадвал тэд найдвартай хиймэл оюун ухаан үйлдвэрлэж чадна гэж найдаж байна. Энэ бүхэн сайн, гэхдээ энэ нь бодит амьдрал дээр зарим талаараа боломжгүй юм шиг санагдаж байна, гэхдээ энэ нь туйлын үнэ цэнэтэй зам юм.

Би юу хэлэх гээд байна вэ гэвэл,

Хиймэл оюун ухаан хөгжүүлэгчид бидний ерөнхийд нь X гэж нэрлэх зорилгоор хиймэл оюун ухааны системийг бүтээхэд шаргуу хүчин чармайлт гаргасан гэж бодъё. Тэд хиймэл оюун ухаан нь AI ёс зүйн ил тод байдлын зарчмуудыг дагаж мөрдөж байгаа эсэхийг сайтар шалгадаг. Хувийн нууцлалыг хиймэл оюун ухаанд зохих ёсоор суулгасан эсэхийг тэд сайтар баталгаажуулдаг. Хиймэл оюун ухааны ёс зүйн бараг бүх зарчмуудын хувьд AI бүтээгчид хиймэл оюун ухаан нь өгөгдсөн дүрэмд нийцэж байгаа эсэхийг бүрэн баталгаажуулдаг.

Та одоо энэ хиймэл оюун ухаанд итгэх ёстой юу?

Нээлттэй асуултын талаар таны бодлыг илэрхийлэхэд туслахыг надад зөвшөөрнө үү.

Кибер луйварчид хиймэл оюун ухаанд нэвтэрч, хиймэл оюун ухаанд X-ийг гүйцэтгэхийн тулд заль мэхээр авч чадсан бөгөөд мөн хиймэл оюун ухааны цуглуулж буй бүх өгөгдлийг кибер хакеруудад тэжээдэг. Ингэснээр эдгээр хорон санаатнууд хувийн нууцыг хамгаалах зарчмыг нууцаар халдаж байна. Энэ нь хиймэл оюун ухааны халхавч дор болж байгааг та огтхон ч мэдэхгүй байна.

Нэмэлт мэдээлэлтэй бол би чамаас дахин ижил асуулт асуух болно.

Та энэ хиймэл оюун ухаанд итгэдэг үү?

Ихэнх хүмүүс үүнийг хийх нь гарцаагүй гэж шууд мэдэгдэнэ гэж би зүрхлэх болно үгүй биш энэ тодорхой AI-д итгэ. Тэд өмнө нь итгэж байсан байх. Тэд одоо хиймэл оюун ухааныг найдвартай гэж үзэхээ больсон.

Энэхүү энгийн жишээн дээр үндэслэсэн хэд хэдэн гол санааг эргэцүүлэн бодох нь зүйтэй:

• Итгэлцлийн динамик. Хиймэл оюун ухааны ёс зүйг AI системд суулгасан байх бүх үндсийг хамрах хамгийн сайн санаанууд ч хиймэл оюун ухаан юу болж хувирах, юу болох талаар баталгаа болохгүй. AI-г ашиглалтад оруулсны дараа гадны хүмүүс Ёс зүйн хиймэл оюун ухааны хуримтлалыг алдагдуулж болзошгүй.
• Дотроос итгэх итгэлийг бууруулах. Найдвартай байдлыг бууруулах үйлдэл нь заавал гадны хүмүүс байх албагүй. AI системд тогтмол засвар үйлчилгээ хийж байгаа дотоод мэдээлэл нь бүдүүлэг алдаа гаргаж, хиймэл оюун ухааныг сулруулж, итгэл үнэмшил багатай байх магадлалтай. Энэхүү AI хөгжүүлэгч нь юу хийснээ мэдэхгүй байж магадгүй юм.
• Итгэлийн санамсаргүй эвдрэл. Өөрийгөө тохируулдаг эсвэл өөрийгөө зохицуулах хиймэл оюун ухаан нь хэзээ нэгэн цагт өөрийгөө тохируулж, найдваргүй газар руу чиглэж магадгүй юм. Магадгүй хиймэл оюун ухаан нь AI-ийн ил тод байдлыг нэмэгдүүлэхийг оролддог ч нууцлалын тал дээр нэгэн зэрэг, зохисгүй байдлаар халдаж байгаа байх.
• Итгэлийг тараах. Хиймэл оюун ухааны ёс зүйн бүх зарчмуудыг хамгийн дээд түвшинд хүргэхийг оролдох нь ихэвчлэн бие биедээ нийцдэггүй, учир нь тэдгээр нь ихэвчлэн хөндлөнгийн зорилготой эсвэл бусад төрөлхийн зөрчилдөөнтэй байдаг. Ёс зүйн хиймэл оюун ухааны бүх зарчмууд мөрөөдөмтгий нийцэж байгаа бөгөөд бүгд ижил түвшинд хүрч чадна гэдэгт итгэх нь нэлээд оновчтой хэтийн төлөв юм.
• Итгэл үнэмшилд хүрэхэд үнэтэй байж болно. Төрөл бүрийн өргөн цар хүрээтэй, нарийн алхмуудыг хийж, хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх замаар найдвартай хиймэл оюун ухааны дээд түвшний дүр төрхийг туршиж үзэх, хүрэх зардал харьцангуй өндөр байх болно. Нийгэмд чухал ач холбогдолтой зарим хиймэл оюун ухааны системийг ашиглахад өртөг өндөр байх болно гэж та амархан маргаж болно, тэр ч байтугай хиймэл оюун ухаан нь найдвартай байх хүсэл эрмэлзлээс хамаагүй бага гэж хэлж болно.
• Тиймээ.

Найдвартай хиймэл оюун ухааныг цогцоор нь бүтээх, хөгжүүлэх оролдлогоос ямар нэгэн байдлаар зайлсхийх хэрэгтэй гэсэн санааг өгөхийн тулд өмнөх үгсийг буруугаар тайлбарлаж болохгүй. Та нялх хүүхдээ ванны усаар шиднэ гэсэн үг. Зохистой тайлбар нь хиймэл оюун ухааныг найдвартай анхааралдаа авахын тулд бид эдгээр найдвартай үйлдлүүдийг хийх хэрэгтэй, гэхдээ энэ нь дангаараа бүх зүйлийг эмчлэх эсвэл мөнгөн сум биш юм.

Найдвартай хиймэл оюун ухаанд хүрэх олон талт зам

Найдвартай хиймэл оюун ухаан руу тэмүүлэх чухал нэмэлт олон талт арга замууд бий.

Жишээлбэл, би өмнө нь нийтлэлдээ дурдсанчлан хиймэл оюун ухаантай холбоотой шинээр гарч ирж буй олон тооны хууль тогтоомжууд нь хиймэл оюун ухаан бүтээгчдийг найдвартай хиймэл оюун ухаан зохион бүтээхэд чиглүүлэх зорилготой. холбоос энд байна болон холбоос энд байна.

Эдгээр хууль эрх зүйн хашлага нь хиймэл оюун ухаан зохион бүтээгчид хиймэл оюун ухааныхаа төлөө бүрэн хариуцлага хүлээх ёстой гэдгийг батлах үндсэн арга хэрэгсэл болохын хувьд маш чухал юм. Ийм боломжит хууль эрх зүйн арга хэмжээ, хууль ёсны шийтгэл байхгүй бол хиймэл оюун ухааныг зах зээлд яаравчлуулах гэж байгаа хүмүүс найдвартай хиймэл оюун ухаанд хүрэхийн тулд бага ч гэсэн нухацтай хандсаар байх болно. Хэрэв эдгээр хууль тогтоомжийг зохисгүй боловсруулсан эсвэл хангалтгүй хэрэгжүүлбэл найдвартай хиймэл оюун ухааныг эрэлхийлэхэд харамсаж, магадгүй хачирхалтай, хачирхалтай байдлаар найдваргүй хиймэл оюун ухааныг найдвартай хиймэл оюун ухаанд түлхэц өгч болзошгүйг би онцлон тэмдэглэж болно (дэлгэрэнгүй тайлбарыг миний баганын хэлэлцүүлгийг үзнэ үү).

Би ч гэсэн өөрийн гэсэн шаргуухан хэлж байсан зүйлийнхээ тууштай өмгөөлөгч байсан AI хамгаалагч сахиусан тэнгэр роботууд (миний сурвалжлагыг эндээс үзнэ үү холбоос энд байна). Энэ бол галтай галтай тэмцэх, тухайлбал, найдвартай эсвэл үл нийцэх бусад хиймэл оюун ухаантай тэмцэхэд туслах хиймэл оюун ухааныг ашиглах удахгүй гарах арга юм.

Нэгдүгээрт, зарим суурь контекст ашигтай байх болно.

Та түүний найдвартай эсэхэд эргэлзэж байгаа хиймэл оюун ухааны системд найдаж байна гэж бодъё. Санаа зовоож буй гол асуудал бол хиймэл оюун ухаанд итгэх эсэхээс үл хамааран та ганцаараа байж магадгүй юм. AI нь тооцооллын хувьд чамаас хурдан бөгөөд таны давуу талыг ашиглах боломжтой. Таны талд туслах хэн нэгэн эсвэл ямар нэгэн зүйл хэрэгтэй.

Нэг хэтийн төлөв бол хиймэл оюун ухааны системийг ашиглах үед танд туслах хүн үргэлж байх ёстой. Хэдийгээр энэ нь асуудалтай шийдэл юм. Хэрэв хиймэл оюун ухаан нь бодит цагийн горимд ажиллаж байгаа бол хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машин гарч ирэх үед бидний ярилцах болно. Хиймэл оюун ухаан нь бодит цагийн горимд ажиллаж болох бөгөөд хиймэл оюун ухаан зөв ажиллаж байгаа эсэхийг мэдэхийн тулд тодорхой хүн зураг руу орох үед гамшгийн үр дагавар аль хэдийн гарсан байж магадгүй юм.

Хажуугаар нь энэ нь итгэлцлийн өөр нэг хүчин зүйлийг авчирдаг. Бид ихэвчлэн тулгарч буй нөхцөл байдал эсвэл нөхцөл байдалд үндэслэн итгэлцлийн түвшинг тогтоодог. Та бяцхан хүү, охиноо өөрт нь үнэнч байх болно гэдэгт бүрэн итгэж магадгүй, гэхдээ хэрэв та явган аялал хийж байгаа бол хадны ирмэг дээр гишгэх нь аюулгүй эсэхийг хэлж өгөхийн тулд хөлд орж буй хүүхдэд найдахаар шийдсэн бол та ухаалаг байх болно гэж би бодож байна. нялх хүүхэд үхэл үхлийн ийм зөвлөгөө өгч чадах эсэхийг бодох. Хүүхэд үүнийг чин сэтгэлээсээ, чин сэтгэлээсээ хийж болох ч ийм зөвлөгөөг хангалттай өгч чадахгүй.

Үүнтэй ижил ойлголт нь хиймэл оюун ухаантай холбоотой итгэлцэлтэй холбоотой байдаг. Таны даам эсвэл шатар тоглоход ашиглаж буй хиймэл оюун ухааны систем нь үхэл, үхлийн тухай хэлэлцэх асуудалд оролцдоггүй байх. Итгэл даалгавраа хийснээр та илүү тайван байж чадна. Хурдны замаар өндөр хурдтайгаар урсаж буй хиймэл оюун ухаанд суурилсан өөрөө жолооддог машин нь илүү их итгэлцэл шаарддаг. AI жолоодлогын системийн өчүүхэн төдий цохилт нь таны болон бусдын үхэлд шууд хүргэж болзошгүй юм.

Глобал Deloitte AI хүрээлэнгийн гүйцэтгэх захирал, номын зохиогч Бина Амманатын хэвлэгдсэн ярилцлагад Найдвартай хиймэл оюун ухаан, AI-ийн найдвартай байдал хаана гарч ирдэг вэ гэдгийг контекст талаас нь авч үзэхэд ижил төстэй онцлон тэмдэглэв: “Хэрэв та өвчтөний оношилгоо хийдэг хиймэл оюун ухааны шийдлийг бий болгож байгаа бол шударга байдал, өрөөсгөл байдал нь маш чухал юм. Гэхдээ хэрэв та тийрэлтэт хөдөлгүүрийн эвдрэлийг урьдчилан таамаглах алгоритмыг барьж байгаа бол шударга байдал, хэвийх нь тийм ч чухал биш юм. Найдвартай хиймэл оюун ухаан бол танай байгууллагын итгэлцлийн хэмжүүрүүдийн талаар бодоход тань туслах бүтэц юм” (VentureBeat, 22 оны 2022-р сарын XNUMX).

Найдвартай хиймэл оюун ухааны талаар ярилцахдаа та энэ сэдвийг олон янзаар тайлбарлаж болно.

Жишээлбэл, найдвартай AI Энэ бол бидний хүсэн хүлээдэг, хүсэн хүлээдэг зорилго, тухайлбал бид найдвартай хиймэл оюун ухааныг зохион бүтээх, сурталчлах хүсэл эрмэлзэлтэй байх ёстой зүйл юм. Сэтгэхүйн өөр нэг хэрэглээ бий. Энэ нь арай өөр хэрэглээ юм найдвартай AI Энэ нь найдвартай хиймэл оюун ухааны жишээ болох хиймэл оюун ухааны системийг зохион бүтээсэн гэж хэн нэгэн баталж чадах нөхцөл эсвэл хэмжилтийн төлөв юм. Та мөн хэллэгийг ашиглаж болно найдвартай AI AI-ийн найдвартай байдалд хүрэхэд ашиглаж болох арга, хандлагыг санал болгох. гэх мэт.

Үүнтэй холбоотой тэмдэглэлд, бүх хиймэл оюун ухаан нь адилхан биш гэдгийг та ойлгож байгаа бөгөөд бид бүх хиймэл оюун ухааны талаар хөнжил мэдэгдэл хийхгүй байх ёстойг анхаарах хэрэгтэй гэдэгт би итгэлтэй байна. Тодорхой AI систем нь бусад хиймэл оюун ухааны системээс эрс ялгаатай байх магадлалтай. Эдгээр AI системүүдийн нэг нь маш найдвартай байж болох ч нөгөө нь бага зэрэг найдвартай байж болно. Хиймэл оюун ухаан бол бүрэн найдвартай эсвэл бүрэн найдвартай биш гэж үзэхдээ болгоомжтой байгаарай.

Энэ нь ердөө л тийм биш юм.

Дараа нь би таны сонирхлыг татахуйц найдвартай хиймэл оюун ухааны талаар хийж буй судалгааныхаа заримыг товчхон авч үзэхийг хүсч байна. AI хамгаалагч сахиусан тэнгэр роботууд.

Энэ нь хэрхэн өрнөхийг эндээс харна уу.

Та бусад хиймэл оюун ухааны системийн найдвартай байдлыг хэмжих зорилгоор бүтээсэн хиймэл оюун ухааны системээр (AI хамгаалагч сахиусан тэнгэр робот) зэвсэглэсэн байх болно. AI хамгаалагч сахиусан тэнгэр робот нь таны аюулгүй байдалд хамгийн чухал ач холбогдолтой юм. Та өөрийн халаасандаа өөр хиймэл оюун ухааны системийг суулгаж, магадгүй ухаалаг утас эсвэл бусад ийм төхөөрөмж дээр ажиллаж байгаа хиймэл оюун ухаанаа хянах боломжтой юм шиг бод. Таны зүйр цэцэн мэргэн хиймэл оюун ухааны асран хамгаалагч таны найдаж буй хиймэл оюун ухаан дээр тулгуурлан тооцоолж, хурдацтай ажиллаж, нөхцөл байдлыг бодит цаг хугацаанд нь тооцоолж чаддаг.

Та анх харахад аль хэдийн найдсан хиймэл оюун ухаантай байх ёстой гэж бодож байж магадгүй юм дотоод AI хамгаалагч сахиусан тэнгэр роботыг тусад нь тооцдог хиймэл оюун ухааны хамгаалалтын хашлага. Тийм ээ, энэ нь мэдээжийн хэрэг хүсэх болно. Нэг эргэлзээтэй зүйл бол AI системд суурилуулсан хиймэл оюун ухааны хамгаалалтын хашлага нь хиймэл оюун ухаантай салшгүй холбоотой байж болох тул хиймэл оюун ухааны хамгаалалт нь хиймэл оюун ухааныг бие даан шалгах эсвэл баталгаажуулах боломжгүй болсон явдал юм.

Эсрэг санаа нь таны хиймэл оюун ухааны хамгаалагч сахиусан тэнгэр робот нь таны найдаж буй хиймэл оюун ухаанаас ялгаатай бие даасан эсвэл гуравдагч этгээдийн хиймэл оюун ухааны механизм юм. Энэ нь бусад хиймэл оюун ухаанаас гадуур байрладаг бөгөөд танд үнэнч хэвээр үлдэж, хянаж, үнэлж буй хиймэл оюун ухаанд зориулагдаагүй болно.

Энэ талаар бодох шууд арга хэрэгслийг дараах хялбаршуулсан тэгшитгэлтэй төстэй мэдэгдлүүдээр илэрхийлж болно. Бид "P" нь "X" гэсэн тодорхой ажлыг хийхэд "R"-д итгэхийг хүсч байна гэж хэлж болно:

Зөвхөн хүмүүс оролцсон тохиолдолд энэ нь дараах байдалтай байна.

• Р хүн R хүнд X даалгаврыг хийхэд итгэдэг.

Бид хиймэл оюун ухаанд найдахаар шийдсэн үед мэдэгдэл дараах байдлаар өөрчлөгдөнө.

• P хүн X даалгаврыг гүйцэтгэхийн тулд AI instance-R-д итгэдэг.

Бид дараах байдлаар AI хамгаалагч сахиусан тэнгэр роботыг нэмж болно.

• P хүн AI instance-R-д итгэж, AI асран хамгаалагч сахиусан тэнгэр ботын жишээ-Z-ээр хянадаг тул X даалгаврыг гүйцэтгэнэ.

AI хамгаалагч сахиусан тэнгэр робот нь таны найдаж буй хиймэл оюун ухааныг уйгагүй, уйгагүй үнэлдэг. Иймээс таны ухаалаг хиймэл оюун ухааны асран хамгаалагч танд бусад хиймэл оюун ухаанд итгэх итгэл үндэслэлгүй гэдгийг анхааруулж магадгүй юм. Эсвэл хиймэл оюун ухааны асран хамгаалагч нь бусад хиймэл оюун ухаантай цахим хэлбэрээр харилцаж, найдвартай байхаас хол зөрүүтэй бүх зүйлийг хурдан засах гэх мэтээр оролдох боломжтой (миний энэ талаарх дэлгэрэнгүй мэдээллийг эндээс үзнэ үү. холбоос энд байна).

Trusty Trust Reservoir метафор

Бид итгэлцлийн янз бүрийн түвшний талаар ярилцаж байгаа тул та итгэлцлийг нөөцийн нэг төрөл гэж үзэн найдвартай байдлын тухай зүйрлэлийг ашиглаж болно.

Та тодорхой цаг хугацааны тодорхой нөхцөл байдалд, тодорхой хүн эсвэл зүйлд тодорхой хэмжээгээр итгэдэг. Тухайн хүн эсвэл зүйлтэй холбоотой өөр юу тохиолдохоос хамаарч итгэлийн түвшин өсөх эсвэл буурах болно. Хүн эсвэл зүйлд итгэх итгэл байхгүй үед итгэлцэл тэг түвшинд байж болно. Тухайн хүн эсвэл зүйлд үл итгэх итгэл нь сөрөг байж болно.

AI системийн хувьд таны тодорхой нөхцөл байдалд найдаж буй хиймэл оюун ухаанд итгэх итгэлийн нөөц тань хиймэл оюун ухааны найдвартай байдлыг хэмжихээс хамаарч өсөх эсвэл буурах болно. Заримдаа та хиймэл оюун ухаанд итгэх итгэлийн янз бүрийн түвшнийг сайн мэддэг байж болох бөгөөд бусад тохиолдолд та итгэл үнэмшилтэй байдлын талаар дүгнэлт хийх замаар бага мэдлэгтэй байж магадгүй юм.

AI-д итгэх итгэлийг нэмэгдүүлэх арга замуудын талаар бидний энд ярилцсан арга замууд нь:

• AI ёс зүйг дагаж мөрдөх. Хэрэв таны найдаж буй хиймэл оюун ухаан нь хиймэл оюун ухааны ёс зүйн зохих зарчмуудыг дагаж мөрдөхийг оролдсоноор зохион бүтээгдсэн бол та энэхүү ойлголтыг тухайн AI системийн итгэлцлийн нөөцийн түвшинг нэмэгдүүлэхийн тулд ашиглах болно. Хажуугийн тэмдэглэлийн хувьд та бусад хиймэл оюун ухааны системүүдийн найдвартай байдлын талаар ерөнхийд нь хэлж болно, гэхдээ энэ нь заримдаа миний нэрлэж буй төөрөгдүүлсэн хэлбэр байж болох юм. AI итгэлийн аура тархаж байна (Үүнийг хийхдээ болгоомжтой байгаарай!).
• Хүний гогцоог ашигла. Хэрэв хиймэл оюун ухаан нь хүн төрөлхтөнтэй бол хиймэл оюун ухаанд итгэх итгэлийг тань эерэгээр нэмэгдүүлж магадгүй юм.
• Хууль тогтоомжийг бий болгох. Хэрэв энэ төрлийн хиймэл оюун ухаантай холбоотой хууль тогтоомж, дүрэм журам байдаг бол та мөн адил итгэлийн түвшинг нэмэгдүүлэх боломжтой.
• AI Guardian Angel Bot ажиллуул. Хэрэв танд хиймэл оюун ухаантай хамгаалагч сахиусан тэнгэрийн робот бэлэн байгаа бол энэ нь таны итгэлийн түвшинг дээшлүүлнэ.

Өмнө дурьдсанчлан, итгэлцэл нь нэлээд хэврэг байж, агшин зуур нурж унадаг (өөрөөр хэлбэл, итгэлцлийн нөөц нь хуримтлагдсан бүх итгэлийг хурдан бөгөөд гэнэт хаядаг).

Та хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машин дотор сууж байгаа бөгөөд хиймэл оюун ухаан жолоодлого нь гэнэт баруун тийш эргэж, дугуйнууд нь чичирч, автомат жолоодлоготой машиныг аюулд өртөх шахсан гэж төсөөлөөд үз дээ. Таны итгэлийн түвшинд юу тохиолдох вэ? Хэрэв та өмнө нь хиймэл оюун ухаанд итгэх итгэлийг өндөр түвшинд байлгаж байсан ч гэсэн итгэлийн түвшинг огцом, огцом унагах байсан юм шиг санагдаж байна.

Энэхүү чухал хэлэлцүүлгийн мөчид та найдвартай хиймэл оюун ухааны мөн чанар, цар хүрээг харуулсан нэмэлт жишээнүүдийг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг авч үзэхийн тулд сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь тухайн сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой жишээ эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд бий болсон нь найдвартай хиймэл оюун ухааныг эрэлхийлэх талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машин ба найдвартай хиймэл оюун ухаан

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний хэлэх гэж буй зүйлийн үндэс суурь болох хангалттай хэмжээний сэрэмжлүүлэг өгдөг гэдэгт би итгэж байна.

Өөрийгөө жолооддог машин болон найдвартай хиймэл оюун ухаанд гүн гүнзгий шумбахад бид одоо бэлтгэлээ базааж байна.

Итгэл бол бүх зүйл, ялангуяа хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинуудын хувьд.

Автомат жолоодлоготой машин гарч ирэхийг нийгэм болгоомжилж байгаа бололтой. Нэг талаас, жинхэнэ өөрөө жолооддог машин бий болсноор жил бүр автомашинаас үүдэлтэй нас баралтын тоог бууруулна гэсэн том итгэл найдвар бий. Зөвхөн АНУ-д л гэхэд автомашины ослоос болж жилд 40,000 орчим хүн нас барж, 2.5 сая орчим хүн гэмтэж бэртдэг. Миний статистикийн цуглуулгыг эндээс үзнэ үү. холбоос энд байна. Хүмүүс архи ууж, машин жолооддог. Хүмүүс анхаарал сарнисан үедээ машин жолооддог. Машин жолоодох ажил бол жолоодлогынхоо талаар давтан, алдаагүй анхаарлаа төвлөрүүлж, автомашины осолд өртөхгүй байх явдал юм. Тиймээс хиймэл оюун ухаантай жолоодлогын системүүд өөрөө жолооддог машинуудыг олон дахин, алдаагүй чиглүүлнэ гэж бид мөрөөдөж магадгүй. Та өөрөө жолоодлоготой машиныг хоёр талт зүйл гэж ойлгож болох бөгөөд энэ нь автомашины ослоор нас барах, гэмтэж бэртэх тоог бууруулахаас гадна хөдөлгөөнт байдлыг илүү өргөн, хүртээмжтэй болгох боломжтой юм.

Гэхдээ өөрөө жолоодлоготой машинууд манай нийтийн эзэмшлийн замд хангалттай аюулгүй байх эсэх талаар нийгэмд түгшүүр төрүүлж байна.

Хэрэв нэг өөрөө жолоодлоготой машин осолдох юм уу мөргөлдөж нэг хүний ​​амь нас, хүнд бэртэл авчирсан бол хиймэл оюун ухаанд суурилсан жолоочгүй машинд итгэх итгэл огцом буурна гэж та таамаглаж болно. Аризона мужид өөрийгөө жолооддог машин явган зорчигчийг мөргөж, амь насыг нь хөнөөсөн ноцтой хэрэг гарахад бид үүнийг харсан (миний сурвалжлагыг үзнэ үү. энэ линкийг эндээс авна уу).

Зарим шинжээчид хиймэл оюун ухаантай автомат жолоодлоготой автомашины итгэлийг үндэслэх нь шударга бус бөгөөд зохисгүй гэдгийг онцлон тэмдэглэж байгаагаар ийм төрлийн дараагийн осол, мөргөлдөөн нь харьцангуй осолгүй нийтийн замын туршилтыг сүйрүүлж болзошгүй юм. Нэмж дурдахад, ямар ч хиймэл оюун ухаантай өөрөө жолооддог автомашины брэнд эсвэл загвар нь харамсалтай хэрэг явдалд орооцолдсоноос үл хамааран нийгэм өөрөө өөрийгөө жолооддог автомашины бүх брэндийг буруутгах нь дамжиггүй.

Өөрийгөө жолооддог автомашинуудыг бүхэлд нь доромжилж, энэ салбар бүхэлдээ асар их сөрөг нөлөөнд автаж, нийтийн эзэмшлийн замын бүх туршилтыг зогсоож болзошгүй юм.

Өөрийгөө жолооддог автомашиныг дэмжигчид жолоочгүй бүх машин осолдох боломжгүй болно гэсэн утгагүй тунхаглалаас ийм цохилтод хувь нэмэр оруулсан нь олддог. Гэмтэх боломжгүй гэсэн энэ санаа нь зөвхөн буруу зүйл биш (харна уу холбоос энд байна), энэ нь өөрөө жолоодлоготой автомашины үйлдвэрлэлийг бүрэн гүйцэд бус хүлээлтийг бий болгож байна. Автомат жолоодлоготой автомашины улмаас хүний ​​амь нас эрсдэнэ гэсэн эдгээр хачирхалтай бөгөөд боломжгүй мэдэгдлүүд нь жолоочгүй машин осолдох нь бүхэл бүтэн иж бүрдэл, иж бүрдэл дэмий хоосон гэдгийг баттай илэрхийлдэг гэсэн буруу ташаа ойлголтыг төрүүлж байна.

Автомат жолоодлоготой машин руу чиглэсэн ахиц дэвшил, нийгмийн итгэл үнэмшлийн нэг инчийг хормын дотор үгүй ​​хийж болохыг ухаарах нь маш гунигтай. Энэ нь итгэлийн хэврэг байдлын тухай гайхалтай харуулах болно.

Дүгнэлт

Олон автомашин үйлдвэрлэгчид болон автомат жолоодлоготой технологийн пүүсүүд хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашины хувьд найдвартай хиймэл оюун ухааныг бий болгохын тулд хиймэл оюун ухааны ёс зүйн зарчмуудыг ерөнхийд нь баримталж байна. Эдгээр пүүсүүдийн зарим нь бусдаасаа илүү хүчтэй бөгөөд Ёс зүйн AI зарчмуудад илүү үнэнч байдаг гэдгийг анхаарна уу. Хиймэл оюун ухааны ёс зүйн тулгын чулуунуудын ихэнхийг нь хөсөр хаяж байгаа мэт санагдах жижиг эсвэл шинэхэн өөрөө жолооддог машинтай холбоотой гарааны бизнесүүд бас байдаг (миний тоймыг үзнэ үү. холбоос энд байна).

Бусад тал дээр өөрөө жолоодлоготой автомашиныг хамарсан шинэ хууль тогтоомжууд аажмаар хуулийн дэвтэрт орж байна. Тэднийг нөөцлөхөд шаардлагатай шүд байгаа эсэх нь өөр асуудал бөгөөд эдгээр хуулийн хэрэгжилтийг нухацтай авч үзэх эсвэл үл тоомсорлож байгаа эсэх (энэ талаар дүн шинжилгээ хийх бол миний багануудыг үзнэ үү).

Үүнд өндөр технологийн өнцөг бас бий. Бие даасан тээврийн хэрэгсэл болон өөрөө жолооддог автомашины тавцанд гарч ирэх хиймэл оюун ухааны хамгаалагч сахиусан тэнгэр роботуудын хувилбаруудыг аажмаар харах болно гэж би таамаглаж байсан. Бид хараахан байхгүй байна. Автомат жолоодлоготой автомашины хэрэглээ улам бүр дэлгэрч эхэлмэгц энэ нь илүү өргөн тархах болно.

Энэ сүүлчийн цэг нь итгэлцлийн тухай алдартай мөрийг авчирдаг бөгөөд та үүнийг цээжээр мэддэг байх нь дамжиггүй.

Итгэ, гэхдээ баталгаажуул.

Бид өөртөө итгэл найдвараа өргөжүүлэхийг зөвшөөрч чадна, магадгүй өгөөмөр байдлаар. Үүний зэрэгцээ бидний бий болгосон итгэлийг үг, үйлдлээрээ баталгаажуулахын тулд шонхор шувуу шиг харж байх ёстой. Хиймэл оюун ухаанд бага зэрэг найдъя, гэхдээ бид итгэлээ зөв тавьж, нүдээ том нээж байгаа гэдгээ эцэс төгсгөлгүй шалгацгаая.

Та үүнд итгэж болно.