Хиймэл оюун ухаан бүтээгчид өсөн нэмэгдэж буй халуун төмсний синдромын талаар бухимдаж байна

Та арлын халуун төмстэй болж дуусахгүй байх ёстой гэдгийг бид бүгд мэднэ.

Халуун төмсний гамбит нь наад зах нь 1800-аад оны сүүлчээс лаа асаадаг танхимын тоглоомын үеэр бөмбөг эргэлдэж байсан үеэс улбаатай бололтой. Хүмүүс ихэвчлэн хоорондоо харьцангуй зэргэлдээ байрлах хэд хэдэн модон сандал дээр сууж, тэр үед бүхэлдээ сэтгэл хөдөлгөм тоглоом тоглодог байв. Тоглогчид асаасан лааг хүнээс хүнд гардуулах бөгөөд бидний хожим лаа гардуулах гэж сонгосон зүйлийг илэрхийлдэг. халуун төмс.

Хүн бүр аажмаар шатаж буй лааны хажуугаар өнгөрөхөөс өмнө алдартай шүлгийг чангаар ярихыг шаарддаг заншилтай байв. Хэллэг нь дараах байдалтай байсан бололтой:

“Жек амьд бөгөөд амьдрах магадлалтай;

Хэрэв тэр чиний гарт үхвэл танд өгөх эрх алдагдах болно."

Энэхүү уянгын уншлага нь лааг эцсийн төгсгөл хүртэл асаахад бага зэрэг хугацаа өгөх болно. Төгсгөлд нь байгалийн унтрах үед өөрсдийн эзэмшилд байсан лаатай гацсан хүн тэр тоглолтонд хожигдсон хүн байв (тоглолт!).

Хэллэгт заасан үгсийн дагуу ялагдагч нь "хохиролт"-ыг төлөх ёстой байсан тул ихэвчлэн тоглоомын бусад тойргоос гарах шаардлагатай болдог. Үүнийг өнөөдөр бидний өдөр тутмын хөгжмийн сандал гэж үздэг зүйлтэй хослуулж болох бөгөөд ингэснээр тойрогт хожигдсон хүн дараагийн шатанд оролцохоо больсон (хөгжим зогссон, боломжтой суудал олж авах боломжгүй юм шиг). Эцсийн эцэст эцсийн унтраалтаар эцсийн ялагч тодрох хүртэл асаасан лааны дэргэдүүр өнгөрч, шүлэг хэлсэн хоёр хүн л үлдэнэ.

Бид яагаад энэ тоглоомыг лаа асааж тоглохоо больсон, яагаад бид үүнийг "лаа асаах" схем гэж дүрслэхээсээ илүү халуун төмс гэж нэрлэдэгийг та гайхаж байгаа байх. Судлаачид энэ нь хэрхэн аажмаар явагдсан талаар олон онол дэвшүүлсэн. Түүх нь бүрхэг бөгөөд энэ асуудалд бүх зүйл хэрхэн өөрчлөгдсөнийг шийдээгүй мэт санагддаг. Ямар нэг зүйл илт эвдэрсэн байх магадлал маш их санаа зовоосон мэт санагдах тул (хэн нэгэн лаа асаагаад гал асаах, эсвэл хэн нэгэн лаа өгөхдөө лаанд түлэгдэх) тул асаадаг лаа ийм түгээмэл хэрэглэгддэггүй учраас бид тайвширч болно гэж бодож байна. өөр тоглогч гэх мэт).

Халуун төмсийг асаасан лаа орлуулагчийн хувьд төмс ерөнхийдөө аюулгүй байх болно гэж та ерөнхийдөө маргаж болно. Ил гал гарахгүй. Хайлах лав байхгүй. Төмсийг энэ нөхцөлд ашиглах боломжит үндэс нь халаасны дараа дулаанаа хадгалах чадвартай байдаг. Та төмсийг тойруулан өнгөрөөж болно, энэ нь хэсэг хугацаанд халуун хэвээр байх болно. Халуун төмс хэзээ халуун байхаа больж, оронд нь хүйтэн гэж үнэлэгдэхийг шийдэх нь маш их маргаантай санал болно гэж таамаглаж байна.

Мэдээжийн хэрэг, зүйр цэцэн үгийн халуун төмсний тухай ойлголт нь өнөө үед илүү бие даасан анхаарал татаж байна. Халуун төмс гэж үнэлэгдсэн эсвэл эрэмбэлэгдсэн аливаа зүйл нь ихэвчлэн чин сэтгэлээсээ ангижрах чанартай байдаг. Та халуун төмс барьж байхыг хүсэхгүй байна. Та энэ нь өөр газар явж байгаа эсэхийг шалгахыг хүсч байна. Зарим талаараа энэ нь таны мэдэлд байхаа больсон учраас хаашаа явах талаар санаа зовохгүй байж магадгүй юм.

Та хайртай найздаа эсвэл ижил төстэй танилууддаа халуун төмс өгөх нь нэлээд увайгүй мэт санагдаж магадгүй юм. Энэ нь огт зохисгүй мэт санагдах болно. Хэрэв та боломжтой бол тэр халуун төмс тавих өөр хүн эсвэл өөр газар олоорой. Цөхрөнгөө барсан алхам бол халуун төмсийг эелдэг хамт олонтой болгох явдал байж болох ч энэ нь зөвхөн эцсийн арга хэмжээ болно гэж найдаж байна.

Энэ зоосны нөгөө тал нь та дургүй эсвэл өшөөгөө авах гэж байгаа хүндээ халуун төмс өгөхдөө баяртай байх болно. Мэдээжийн хэрэг, хэрэв та өөртэйгөө муу харьцсан хүнийг доромжлохыг зорьж байгаа бол халуун төмс бараг л алдар суутай байх болно. Тэд халуун төмсний талаар юу хийхээ олж мэдээрэй. Төмсөөс сайн салж, шошго хийсэн хүндээ хамгийн муу амжилт хүсье.

Хоёрхон хүн оролцсон халуун төмсний хувилбарт тааламжгүй, хүсээгүй зүйлийг хэн барьж байгаа талаар нааш цааш хурдан маргаан гарах магадлалтай. Жишээ нь, би чамд халуун төмс өгөхөд та яаран надад буцааж өг. Тасалбар бүрийн хооронд үржүүлгийн дууг зарлах шаардлагагүй гэж үзвэл бид гараараа төмсний хажуугаар хурдан өнгөрч чадна.

Би яагаад хүндэтгэлтэй, байнга иш татагддаг халуун төмс рүү гүн гүнзгий шумбахыг сонгосон бэ гэдгийг та сонирхож магадгүй юм.

Яагаад гэвэл.

Халуун төмсний дүр төрхийг хиймэл оюун ухааны (AI) салбарт улам бүр ашиглаж байгаа нь харагдаж байна.

Ихэнх хүмүүс энэ талаар юу ч мэдэхгүй. Тэд энэ тухай хэзээ ч сонсож байгаагүй. Тэд энэ нь юу болохыг огт мэддэггүй. Олон хиймэл оюун ухаан хөгжүүлэгчид ч гэсэн энэ асуудлыг мэддэггүй. Гэсэн хэдий ч энэ нь үнэхээр эргэлзээтэй нөхцөлд, ялангуяа амь нас, үхлийн нөхцөл байдалтай холбоотой тохиолдлуудад байдаг бөгөөд ашиглагдаж байх шиг байна.

Би үүнийг AI Халуун төмсний синдром.

Энэ хам шинжийн үндэс нь маш олон ноцтой үр дагавартай бөгөөд бид хиймэл оюун ухааны ёс зүйн бодлын таглаа өмсөж, юу хийх ёстойг анхаарч үзэх хэрэгтэй. Ёс суртахууны талаар маш нарийн бодолтой байдаг. Хууль эрх зүйн хувьд мэдэгдэхүйц үр дагавар гарах нь гарцаагүй (энэ нь нийгэмд хараахан хүрч амжаагүй байгаа ч удахгүй болно гэж би таамаглаж байна). Хиймэл оюун ухааны ёс зүй, ёс зүйн хиймэл оюун ухаан, хууль зүйн AI асуудлуудын талаарх миний байнгын бөгөөд өргөн хүрээний мэдээллийг үзнэ үү. холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

-ийг задалцгаая AI халуун төмсний синдром.

Хүнтэй хамтран ажилладаг хиймэл оюун ухааны системийг төсөөлөөд үз дээ. Хиймэл оюун ухаан болон хүн зарим нэг хийгдэж буй үйл ажиллагааны хяналтыг дамжуулдаг тул заримдаа хүн удирддаг бол зарим үед хиймэл оюун ухаан удирддаг. Үүнийг эхлээд сайн хүмүүжилтэй эсвэл боломжийн аргаар хийж болно. Бидний түр зуур авч үзэх янз бүрийн шалтгааны улмаас хиймэл оюун ухаан нь хяналтыг хүнд яаралтай шилжүүлэх шаардлагатайг тооцоолж магадгүй юм.

Энэ бол халуун төмс Энэ нь зөвхөн хүүхдийн сургамжтай тоглоом болохоос илүүтэй бодит ертөнцөд амь насанд аюул учруулахад хүргэдэг.

Хиймэл оюун ухаанаас хүн рүү удирдлагыг яаран шилжүүлэхтэй холбоотой асуудал бол үүнийг боломжийн хэлбэрээр хийх эсвэл нэлээд үндэслэлгүй аргаар хийж болох явдал юм. Хэрэв хүн хүлээлгэн өгөхийг тийм ч их хүлээгээгүй бол энэ нь асуудал байж магадгүй юм. Хэрэв хүн ерөнхийдөө хяналтыг дамжуулж байгаа бол шилжүүлэн суулгах нөхцөл байдал нь хүнд цаг хугацаа өгөхгүй байх эсвэл хяналтыг яагаад хүний ​​гарт хүчээр өгөхийг хангалттай ухамсарлахгүй байх үед аймшигтай байж болно.

Энэ нь хүний ​​болон магадгүй бусад ойр орчмын хүмүүсийн хувьд үхэл эсвэл амь насыг хохироох жишээг судлах болно. Энэ бол ноцтой зүйл юм. Үе, цэг.

Зэрлэг ба ноосны махлаг байдлын талаар илүү дэлгэрэнгүй ярихаас өмнө AI халуун төмсний синдром, гүн гүнзгий чухал сэдвүүд дээр зарим нэмэлт үндсийг гаргацгаая. Бид хиймэл оюун ухааны ёс зүй, ялангуяа Machine Learning (ML) болон Deep Learning (DL) бий болсон тухай товчхон дурдах хэрэгтэй.

Өнөө үед хиймэл оюун ухаан, тэр ч байтугай хиймэл оюун ухааны салбарын гаднах хамгийн чанга дуу хоолой бол Ёс суртахууны хиймэл оюун ухааны талаар илүү их дуулиан шуугиан дэгдээх явдал гэдгийг та мэдэхгүй байж магадгүй юм. AI Ёс зүй ба Ёс суртахууны AI гэж юу гэсэн үг болохыг харцгаая. Дээрээс нь би Machine Learning болон Deep Learning-ийн талаар ярихдаа юу хэлэх гээд байгааг судлах болно.

Хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татсан AI ёс зүйн нэг хэсэг буюу хэсэг нь таагүй хандлага, тэгш бус байдлыг харуулдаг хиймэл оюун ухаанаас бүрддэг. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хэсэг хугацааны дараа би AI-ийн ёс зүйн үндсэн зарчмуудыг тантай хуваалцах болно. Ийм олон жагсаалт энд тэнд хөвж байна. Бүх нийтийн давж заалдах, зөвшилцлийн цорын ганц жагсаалт хараахан гараагүй байна гэж та хэлж болно. Энэ бол харамсалтай мэдээ юм. Сайн мэдээ гэвэл ядаж л AI-ийн ёс зүйн жагсаалтууд бэлэн байдаг бөгөөд тэдгээр нь нэлээд төстэй байх хандлагатай байдаг. Энэ бүхэн нь үндэслэлтэй нэгдлийн хэлбэрээр бид хиймэл оюун ухааны ёс зүй юунаас бүрддэг нийтлэг нийтлэг байдалд хүрэх замаа олж байгааг харуулж байна.

Эхлээд хиймэл оюун ухааныг урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд Ёс зүйн AI-ийн ерөнхий зарчмуудын заримыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Холбогдох ажилтнууд хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргууд, тухайлбал ил тод, аудит хийх боломжтой арга зүй, өгөгдлийн эх сурвалж, дизайны журам, баримт бичгийн талаар зохих ойлголттой байхаар хэлтсийн хиймэл оюун ухааны чадавхийг хөгжүүлж, ашиглах болно.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс хиймэл оюун ухааны ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Халуун төмс ба түүний хиймэл оюун ухаанд хор хөнөөл учруулж болзошгүй хэрэглээнд анхаарлаа хандуулцгаая. Халуун төмсний заль мэх дотор бас нуугдаж болох догшин зан байдаг.

Халуун төмсний гамбитийн хиймэл оюун ухааны илрэлийн талаар товч товч дурдвал:

• Хиймэл оюун ухаан болон давталт дахь хүн өгөгдсөн даалгавар дээр хамтран ажиллаж байна
• AI зарим цаг хугацааг удирддаг
• Хүрээнд байгаа хүн зарим цагийг удирддаг
• Хиймэл оюун ухаан ба хүний ​​хооронд шилжүүлэх протокол байдаг
• Шилжүүлэн өгөх нь маш их харагддаг, эсвэл нарийн бөгөөд бараг далд байж болно
• Энэ бүхэн ихэвчлэн бодит цагийн нөхцөлд байдаг (ямар нэг зүйл идэвхтэй явагдаж байна)

Энд гол анхаарлаа хандуулж байгаа зүйл бол шилжүүлэн суулгах нь үндсэндээ халуун төмс бөгөөд хиймэл оюун ухаан нь гэнэт хяналтыг хүнд шилжүүлэхээр шийдсэн явдал юм. Би энд бас нөгөө талыг нь, тухайлбал, хүн төрөлхтний хяналтыг хиймэл оюун ухаанд халуун төмс болгон өгөхийг энд бас авч үзэх болно гэдгийг анхаарна уу.

Эхлээд хиймэл оюун ухаан нь хүн рүү халуун төмс өгөхөд юу тохиолдохыг бодож үзээрэй.

Би хүнийг хүн гэж нэрлэх гэж байна, учир нь би хүн аль хэдийн ажиллаж байгаа үйл ажиллагааны нэг хэсэг болсон гэж хэлж байна. Энэ үйл ажиллагаанд онцгой оролцоогүй, магадгүй үл таних хүн хиймэл оюун ухаанаар халуун төмс өгөх өөр хувилбарууд байж болох тул энэ орчны бусад амтууд байдаг гэдгийг санаарай.

Хэрэв би чамд халуун төмс өгч, боломжийн байдлаар өгөхийг хүсвэл би чамд юм өгөх гэж байгаа гэдгээ анхааруулах байсан байх. Цаашилбал, хэрэв би чамайг халуун төмстэй байсан нь минийхээс хамаагүй дээр гэдэгт чин сэтгэлээсээ итгэвэл би үүнийг хийхийг хичээх болно. Чамд байх ёстой юм уу, үргэлжлүүлэх ёстой юм уу гэдгийг би оюун ухаанаараа тооцоолно.

Сагсан бөмбөгийн тоглолтыг төсөөл. Чи бид хоёр нэг багт байгаа. Тоглолтонд хожихын төлөө хамтдаа зүтгэнэ гэж найдаж байна. Цаг дуусахад хэдхэн секунд үлдлээ, бид гоол хийх маш их хэрэгтэй байна, эс тэгвээс бид хожигдох болно. Би сүүлчийн цохилтоо хийх байрлалд орлоо. Би тэгэх ёстой юу, эсвэл би чамд бөмбөг дамжуулж, сүүлчийн цохилтоо хийх үү?

Хэрэв би илүү сайн сагсан бөмбөгчин бөгөөд цохилтыг живүүлэх магадлал өндөр байвал би сагсан бөмбөгөө хадгалж, шидэлт хийхийг хичээх хэрэгтэй байх. Хэрвээ чи надаас илүү сагсан бөмбөгчин бол би чамд бөмбөгийг дамжуулж, шидэлтээ өгөх хэрэгтэй байх. Бидний хэн нь талбай дээр шидэлт хийхэд илүү тохиромжтой, мөн тоглолт дуусах дөхсөн тул ядарч туйлдсан, ядарч туйлдсан байж магадгүй гэх мэт бусад асуудлууд гарч ирнэ. тэдний буудлага. гэх мэт.

Хэцүү мөчид эдгээр бүх хүчин зүйлсийн дунд би бөмбөгийг өөртөө үлдээх үү, эсвэл танд дамжуулах уу гэдгээ шийдэх хэрэгтэй байна.

Энэ тохиолдолд цаг маш чухал гэдгийг сайн ойлгоорой. Та бид хоёр хоёулаа цагаа олсон хариу үйлдэлтэй тулгарч байна. Одоо бүх тоглоом бэлэн боллоо. Цаг дуусмагц бид нэг нь шидэлт хийснээс болж хожсон, эсвэл живүүлээгүйгээс хойш хожигдсон. Би сагсыг живүүлбэл баатар болж магадгүй. Эсвэл би чамд бөмбөгийг дамжуулж өгвөл чи түүнийг живүүлэх юм бол чи баатар болж чадна.

Үүнд ямааны тал эсвэл сул тал ч бий. Хэрэв би бөмбөгөө хадгалж, цохилтоо алдвал хүн бүр намайг ямаа гэж буруутгаж магадгүй, эсвэл бүхэл бүтэн багийг доош нь буулгаж магадгүй. Нөгөөтэйгүүр, би чамд бөмбөгийг дамжуулж өгчихвөл чи шидэлт алдвал ямаа болно. Би чамайг сүүлчийн мэргэн бууч болгож, сүүлчийн буудлаа хийхийг албадсан учраас энэ нь танд шударга бус байж магадгүй юм.

Чамайг ийм эвгүй байдалд оруулсан гэдгийг чи гарцаагүй мэдэх байх. Хэдийгээр бүгд намайг үүнийг хийж байгааг харж байсан ч тэд зөвхөн хамгийн сүүлд бөмбөг авсан хүнд л анхаарлаа төвлөрүүлэх нь гарцаагүй. Би чөлөөтэй гулгах байсан байх. Би чамд бөмбөгийг эцсийн мөчид дамжуулсныг хэн ч санахгүй. Чамайг бөмбөг эзэмшиж, шидэлт хийгээгүйгээс болж хожигдсон гэдгийг л тэд санах болно.

За, би чамд бөмбөгийг дамжууллаа.

Би яагаад тэгсэн юм бэ?

Үүнийг тодорхойлох хялбар арга байхгүй.

Миний жинхэнэ зорилго бол би ямаа болж гацахыг хүсээгүй, тиймээс би чамд бүх дарамт учруулахаар шийдсэн. Яагаад бөмбөг дамжуулсан бэ гэж асуухад би чамайг надаас илүү мэргэн бууч гэж бодсон учраас тэгсэн гэж хэлж болно (гэхдээ би үүнд огт итгэдэггүй юм шиг дүр эсгэе). Эсвэл би чамайг надаас илүү байр суурьтай байгаа гэж бодсон (би ч бас тэгж бодоогүй юм шиг дүр эсгэе). Намайг халуун төмстэй зууралдахаас зайлсхийхийг хичээж байсныг хэн ч мэдэхгүй.

Аливаа зүйлийг гаднаас нь харахад хэн ч миний чамд бөмбөг дамжуулж өгсөн үнэн үндэслэлийг шууд ялгаж чадахгүй. Магадгүй би чамайг илүү сайн тоглогч гэдэгт итгэснийхээ төлөө гэм зэмгүй тэгсэн байх. Энэ бол нэг өнцөг. Магадгүй би бөмбөгийг алдаж магадгүй гэж хүн бүр намайг хожигдсон гэж хэлэхийг хүсээгүй учраас би тэгсэн байх, тэгснээрээ би чамд бөмбөг авч өгсөн бөгөөд энэ нь миний хувьд маш том тайвшрал болсон гэж бодсон. Би чамд чин сэтгэлээсээ санаа тавьдаг эсэх нь огт өөр асуудал.

Одоо бид хиймэл оюун ухаантай холбоотой халуун төмсний талаар нэмэлт мэдээлэл оруулах боломжтой.

• Хиймэл оюун ухаан нь эцсийн мөчид хүн рүү хяналт тавихаар шийддэг
• Эцсийн мөч нь хүний ​​амьдрах чадвартай аливаа үйлдлээс хол давсан байж магадгүй юм
• Хүрээлэн буй хүн нь хяналттай боловч хүлээлгэн өгөх хугацаанаас болж зарим талаараа буруу юм.

Үүнийг түр бодоод үзээрэй.

Хиймэл оюун ухааны систем болон давталтын хүн хоёр үйлдвэрт том хэмжээний машин ажиллуулахтай холбоотой бодит цагийн даалгавар дээр хамтран ажиллаж байна гэж бодъё. Хиймэл оюун ухаан нь машин механизм эвдэрч байгааг илрүүлдэг. Хиймэл оюун ухаан нь хяналтаа үргэлжлүүлэхийн оронд хяналтыг гэнэт хүнд шилжүүлдэг. Энэ үйлдвэрт машин механизмууд хурдан эмх замбараагүй байдал руу явж байгаа бөгөөд хүн засч залруулах арга хэмжээ авах цаг үлдсэнгүй.

Хиймэл оюун ухаан нь хүн төрөлхтөнд халуун төмсийг өгч, жинхэнэ халуун төмсөөр хүнийг гацаасан тул хүний ​​хувьд нөхцөл байдлыг даван туулах боломжгүй болсон. Tag, you are it, хүүхэд байхдаа шошго тоглоом тоглохдоо хуучин шугамаар явдаг. Хүнийг бид замбараагүй гэж хэлнэ.

Яг л миний сагсан бөмбөгийн тухай жишээ шиг.

AI яагаад хүлээлгэн өгөх ажлыг хийсэн бэ?

Хүн гэнэт сагсан бөмбөгөө өгөөд яагаад ингэсэн тухайгаа гараараа даллаж байснаас ялгаатай нь бид хиймэл оюун ухааны програмчлалыг судалж үзээд, хиймэл оюун ухаан ийм төрлийн халуун төмс хүлээлгэн өгөхөд юу хүргэснийг олж мэдэх боломжтой.

Хиймэл оюун ухаан хөгжүүлэгч хүн хиймэл оюун ухаан үнэхээр хүнд байдалд ороход хиймэл оюун ухаан нь хүн рүү хяналтаа өгөх ёстой гэж урьдаас шийдсэн байж магадгүй юм. Энэ нь туйлын ухаалаг бөгөөд үндэслэлтэй юм шиг санагдаж байна. Хүн талбай дээр "илүү сайн тоглогч" байж магадгүй юм. Хүн төрөлхтөн танин мэдэхүйн чадвараа ашиглан тулгарч буй аливаа асуудлыг шийдвэрлэх боломжтой. Хиймэл оюун ухаан нь програмчлалынхаа хязгаарт хүрсэн байж магадгүй бөгөөд энэ нөхцөлд түүнд хийж чадах өөр бүтээлч зүйл байхгүй.

Хэрэв хиймэл оюун ухаан нь машин механизм ажиллахгүй болоход нэг минут дутуу байхад хүлээлгэж өгсөн бол магадгүй нэг минутын толгойг дээшлүүлснээр хүн бүх зүйлийг засч залруулж чадна. Хиймэл оюун ухаан дуусахад гурван секунд үлдлээ гэж бодъё. Энэ хугацаанд хүн хариу үйлдэл үзүүлж чадна гэж та бодож байна уу? Боломжгүй. Ямар ч байсан юмыг шуугиан дэгдээхээс болгоомжлохын тулд хүн рүү шилжих нь хэдхэн наносекунд үлдлээ гэж бодъё (наносекунд нь секундын тэрбумын нэг бөгөөд энэ нь хоёр секундын хурдан анивчдаг. нүд нь 300 миллисекунд удаан байдаг).

Хэрэв хиймэл оюун ухаан ямар нэгэн илэрхий арга хэмжээ авахад хэдхэн секундын дотор халуун төмс өгчихвөл тухайн хүн хангалттай хариу үйлдэл үзүүлж чадах уу?

Үгүй

Шилжүүлэн өгөх нь өөрөөр харагдахаас илүү худал юм.

Бодит байдал дээр хүнд хэцүү байдалд ороход шилжүүлэн өгөх нь ямар ч сайн зүйл хийхгүй. Хиймэл оюун ухаан нь хүнийг ямаа болгон чимхсэн.

Зарим хиймэл оюун ухаан хөгжүүлэгчид хиймэл оюун ухаанаа зохион бүтээхдээ энэ талаар огт боддоггүй. Тэд (буруу) цаг бол чухал хүчин зүйл гэдгийг аз жаргалтайгаар тооцдоггүй. Тэдний хийдэг зүйл бол нөхцөл байдал хүндэрсэн үед шилжүүлгийг програмчлах явдал юм. AI-д бүтээлчээр хийх зүйл үлдэхгүй бол бөмбөгийг тоглогч руу шид.

Хиймэл оюун ухаан хөгжүүлэгчид хиймэл оюун ухааныг кодлох үед энэ талаар ямар ч үнэнчээр бодож чадахгүй байж магадгүй бөгөөд дараа нь үүнийг гэрэл гэгээтэй болгох туршилтыг хийгээгүйн улмаас хоёр дахин бүтэлгүйтдэг. Тэдний туршилтаас харахад хиймэл оюун ухаан нь хязгаарт хүрэхэд "хариуцлагатайгаар" дамжуулж байсан явдал юм. Voila, хиймэл оюун ухаан нь сайн бөгөөд ажиллахад бэлэн гэж таамаглаж байна. Туршилтанд ийм атаархмаар, боломжгүй байрлалд байрлуулсан жинхэнэ хүнийг оруулаагүй болно. Эцсийн мөчид, эсвэл эцсийн мөчид нүдээ анивчих нь тэдэнд сайн нөлөө үзүүлсэнгүй эсвэл огтхон ч ашиггүй байсан гэдгийг эсэргүүцэж болохуйц хүнийг шалгах зөв үйл явц байсангүй.

Мэдээжийн хэрэг, хиймэл оюун ухааны зарим хөгжүүлэгчид энэ төрлийн хүндрэлийг ухаалгаар бодож үзэх болно.

Оньсого эргэцүүлсний дараа тэд хиймэл оюун ухааныг ийм байдлаар ажиллахын тулд програмчлах болно.

Яагаад тэр вэ?

Учир нь тэдний оюун ухаанд ядаж л өөр хийх зүйл байхгүй. Бүх зүйл бүтэлгүйтвэл гараараа хүнийг удирдаарай. Магадгүй гайхамшиг тохиолдох болно. Гол нь энэ нь AI хөгжүүлэгчийн хувьд огтхон ч санаа зовдоггүй бөгөөд тэд хүнд байгаа замбараагүй байдлыг даван туулах сүүлчийн боломжийг олгож байгаа юм. AI хөгжүүлэгч дараа нь юу тохиолдсоноос гараа угаадаг.

AI хөгжүүлэгчид эдгээр халуун төмсний загварыг цорын ганц зохион бүтээгчид биш гэдгийг би тодруулахыг хүсч байна. Үүний төлөө ширээн дээр ирдэг бусад олон оролцогч талууд байдаг. Тодорхойлолт, шаардлагын дүн шинжилгээ хийсэн системийн шинжээч үүнийг хиймэл оюун ухаан хийх ёстой гэж хэлсэн байх. Оролцсон AI хөгжүүлэгчид хиймэл оюун ухааныг зохих ёсоор бүтээсэн. AI төслийн менежер үүнийг зохион бүтээсэн байж магадгүй юм. Хиймэл оюун ухааны хөгжлийг хянадаг удирдлагууд болон удирдлага үүнийг зохион бүтээсэн байж магадгүй юм.

Хиймэл оюун ухааны хөгжлийн бүх амьдралын мөчлөгийн туршид хүн бүр халуун төмстэй ижил загварыг урагшлуулсан байж магадгүй юм. Хэн нэгэн үүнийг анзаарсан эсэхээс үл хамааран бид тодорхой хэлж чадахгүй. Хэрэв тэд анзаарсан бол тэднийг эсэргүүцэгчид гэж шошгож, хойш нь татсан байж магадгүй юм. Бусад хүмүүс энэ асуудлыг анхааралдаа авсан байж болох ч үр дагаврыг нь ойлгоогүй. Тэд үүнийг өөрсдийнхөө хүрээнд биш техникийн жижиг хэсэг гэж үзсэн.

Би энэ албан бус "шалтгаануудын" жагсаалтад илүү харгис боломжуудыг нэмэх болно.

Хиймэл оюун ухааныг бүтээгчид өөрсдийн хүсэл тэмүүлэлтэй нэхэмжлэлийг үнэмшилтэй үгүйсгэхийг хүссэн учраас AI халуун төмсний синдромыг заримдаа санаатайгаар ашигладаг.

Үлгэрийн энэ хэсэгт өөрийгөө бэлдээрэй.

Үйлдвэрийн машин механизм ганхаж байгаа тухайд юу болсон талаар хэн хариуцах вэ гэдэг дээр хуруугаараа загнах нь гарцаагүй. Машин механизмын ашиглалтын хувьд бид хиймэл оюун ухаантай системтэй байсан бөгөөд үүнийг хийхдээ хүний ​​оролцоотой байсан. Энэ бол зүйрлэвэл манай хоёр сагсан бөмбөгчин юм.

Цагийн зүү дуусаж, машин механизмууд кабоом руу явах дөхөж байв. Хүн гамшгийг арилгах, түүнээс зайлсхийх хангалттай арга хэмжээ авахад хангалттай хугацаа үлдээгүй байхад хиймэл оюун ухаан нь хүн рүү шилжүүлсэн гэдгийг та бид мэднэ гэж бодъё. Ийм зүйл болсныг өөр хэн ч ойлгохгүй байна.

Хиймэл оюун ухаан үйлдвэрлэдэг пүүс ямар ч тохиолдолд хүн өөрөө удирдаж байсан тул буруугүй гэдгээ шууд мэдэгдэж чадна. Тэдний өө сэвгүй бүртгэлээс үзвэл, Кабоомын үед хиймэл оюун ухаан хяналтанд байгаагүй. Хүн байсан. Тиймээс хүн өөрөө л буруутай гэдэг нь ойлгомжтой.

AI компани энэ илэн далангүй мэдэгдлийг хийхдээ үндсэндээ худлаа ярьж байна уу?

Үгүй ээ, тэд үнэнийг хэлж байх шиг байна.

Хиймэл оюун ухаан хяналтанд байгаагүй гэдэгт тэд итгэлтэй байгаа эсэхийг асуухад тус компани хиймэл оюун ухаан огт хяналтгүй байсан гэж чангаар, бахархалтайгаар тунхаглах болно. Тэд энэ мэдэгдлийн нотолгоог баримтжуулсан (Хиймэл оюун ухаан нь үйл явдлын бүртгэлийг хөтөлж байсан гэж үзвэл). Үнэн хэрэгтээ, хиймэл оюун ухаант компанийн удирдлагууд энэ тал дээр хэн ч тэдний шударга байдлыг эсэргүүцэх болно гэж жигшин зэвүүцэж магадгүй юм. Тэд хиймэл оюун ухаан байсан гэж тангараг өргөхөд бэлэн байх болно үгүй биш хяналтанд. Хүрээнд байгаа хүн хяналттай байсан.

Энэ нь хичнээн төөрөгдүүлж болохыг та харж байгаа гэдэгт би итгэж байна.

Тийм ээ, удирдлагыг хүнд өгсөн. Онолын хувьд хүн өөрөө удирддаг байсан. AI хяналтанд байхаа больсон. Гэхдээ цаг хугацаа, мэдэгдэл байхгүй байгаа нь үүнийг маш хоосон нэхэмжлэл болгож байна.

AI үйлдвэрлэгчийн үзэл бодлоос түүний гоо үзэсгэлэн нь санал болгож буй нэхэмжлэлийг цөөхөн хүн эсэргүүцэж чаддагт оршино. AI үйлдвэрлэгч нь үйл явдлын бүртгэлийг гаргахгүй байж магадгүй юм. Ингэх нь луйвардуулсан нөхцөл байдлаас ангижрах боломжтой. Бүртгэлүүд нь оюуны өмч (IP) эсвэл өмчийн болон нууц шинж чанартай гэж маргаж байна. Хэрэв логуудыг үзүүлбэл энэ нь тэдний хиймэл оюун ухааны нууц соусыг харуулж, үнэ цэнэтэй IP-г нь шавхах болно гэж пүүс маргаж магадгүй юм.

Хөөрхий хүний ​​зовлонг төсөөлөөд үз дээ. Бүх зүйл тэднийг хяналтаас гаргахад буруутгаж байгаад тэд гайхаж байна. Хиймэл оюун ухаан "зөв зүйл хийж" удирдлагыг хүнд шилжүүлсэн. Энэ нь техникийн үзүүлэлтүүдэд заасан зүйл байж болох юм (гэхдээ дахин техникийн үзүүлэлтүүд нь цаг хугацаа, техник эдийн засгийн үндэслэлийг харгалзан үзээгүй байсан). Гараагүй боловч хиймэл оюун ухааныг бүтээгчийн төмөр хучлагатай гэж мэдэгдээд байгаа бүртгэлүүд нь хиймэл оюун ухаан нь хүнийг удирдаж байсныг үнэмлэхүй нотолж байна.

Та үүнийг уналтанд орох нь гарцаагүй гэж эргэлзсэн хүний ​​өрөвдмөөр slam-dunk гэж зарлаж болно.

Энэ нь шүүхэд хандсан тохиолдолд л болсон явдлын бодит байдал илчлэгдэх магадлал өндөр байна. Хэрэв овсгоотой хуульчид энэ төрлийн тоглолтын талаар мэддэг бол тэд хууль ёсны дагуу бүртгэлийг олж авахыг хичээх болно. Тэд логуудыг тайлахын тулд шинжээчийн гэрч (би үе үе хийдэг байсан) авах шаардлагатай болно. Зөвхөн лог хангалттай биш байж магадгүй юм. Бүртгэлүүд нь нарийн ширийн зүйлийг тодорхой харуулахгүйн тулд засч залруулах, өөрчлөх эсвэл зориудаар зохион бүтээх боломжтой. Тиймээс AI кодыг бас судлах шаардлагатай байж магадгүй юм.

Үүний зэрэгцээ, хууль эрх зүйн нээлтийн энэ зовлонтой, урт үйл явцын туршид хүн-хүний ​​хүрд үнэхээр муу харагдах болно. Хэвлэл мэдээллийн хэрэгслээр тэр хүнийг хариуцлагагүй, толгойгоо гашилгасан, хичээнгүйлэн ажиллаж чадаагүй, бүрэн хариуцлага хүлээх ёстой гэж бичдэг. Магадгүй хэдэн сар, хэдэн жилийн турш энэ үйл явцын туршид тэр хүн бүгд буруутгаж байгаа хүн хэвээр байх болно. Өмхий үнэрийг хэзээ ч арилгахгүй байж магадгүй.

Үүнтэй ижил нөхцөл байдал дахин давтагдах болно гэдгийг санаарай. Бас дахин. Хиймэл оюун ухаан бүтээгч хиймэл оюун ухааныг өөрчлөөгүй гэж үзвэл сүүлийн мөчид үүнтэй төстэй нөхцөл байдал үүсэх бүрд хиймэл оюун ухаан энэ ажлыг цаг алдалгүй хийх болно. Эдгээр нөхцөл байдал байнга тохиолддоггүй гэж найдаж байна. Энэ нь тохиолдох ховор тохиолдлуудад гогцоонд орсон хүн намар унахад тохиромжтой залуу хэвээр байна.

Энэ бол чөтгөрийн заль мэх юм.

Та хиймэл оюун ухаан бүтээгч ямар ч буруу зүйл хийгээгүй гэж шаардаж магадгүй. Тэд үнэнийг хэлж байна. AI хяналтаа орхисон. Дараа нь хүнийг хяналтанд авч үзсэн. Эдгээр нь баримтууд юм. Үүнтэй маргах нь утгагүй юм.

Хэн нэгэн мэргэн ухаан гаргаж, хэцүү асуулт асууж байгаа эсэхээс үл хамааран хиймэл оюун ухаан бүтээгч эдгээр асуултад шууд хариулдаг эсэхээс үл хамааран энэ нь ховор тохиолддог зүйл юм.

Асуултууд:

• Хиймэл оюун ухаан хэзээ хүн рүү шилжүүлэх ажлыг хийсэн бэ?
• Хиймэл оюун ухаан ямар программчлагдсан үндсэн дээр шилжүүлгийг хийсэн бэ?
• Хүрээлэн буй хүнд хяналтаа авах хангалттай хугацаа өгсөн үү?
• Эдгээр бэрхшээлийг даван туулахад хиймэл оюун ухаан хэрхэн зохион бүтээгдсэн бэ?
• Тиймээ.

Тийм ч учраас хиймэл оюун ухааны ёс зүй ба ёс зүйн AI нь зарим талаараа маш чухал сэдэв юм. AI-ийн ёс зүйн зарчмууд биднийг сонор сэрэмжтэй байхад хүргэдэг. AI технологичид заримдаа технологид, ялангуяа өндөр технологийн оновчлолд санаа зовдог. Тэд нийгмийн томоохон үр дагаврыг авч үзэх албагүй. Хиймэл оюун ухааны ёс зүйн сэтгэлгээтэй байх, үүнийг хиймэл оюун ухааныг хөгжүүлэх, боловсруулахтай салшгүй холбоотой хийх нь хиймэл оюун ухааны ёс зүйг пүүсүүдэд хэрхэн нэвтрүүлж буйг үнэлэх зэрэг (магадгүй гайхмаар эсвэл инээдтэй) хиймэл оюун ухааныг бий болгоход амин чухал юм.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Үнэн хэрэгтээ, хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж, алтан галууг устгах болно гэдгийг тэд урьдчилан анхааруулж байна.

Энэхүү чухал хэлэлцүүлгийн энэ мөчид та энэ сэдвийг харуулах нэмэлт жишээнүүдийг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь тухайн сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой жишээ эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд бий болсон нь AI халуун төмсний синдромын талаар ямар нэгэн зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машин ба хиймэл оюун ухаантай халуун төмсний синдром

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний ярих гэж буй зүйлийн үндэс болох хангалттай олон тооны анхааруулгыг өгнө гэж найдаж байна.

Бүрэн бие даасан тээврийн хэрэгслийн хувьд хиймэл оюун ухаан болон хүний ​​хооронд шилжих ямар ч боломж байхгүй байж магадгүй, учир нь юуны түрүүнд хүнтэй холбоотой хүн байхгүй байх магадлалтай. Өнөөгийн өөрөө жолоодлоготой машин үйлдвэрлэгчдийн хүсэл эрмэлзэл бол хүний ​​жолоочийг жолоодлогын ажлаас бүрмөсөн зайлуулах явдал юм. Тээврийн хэрэгсэлд хүний ​​хүртээмжтэй жолоодлогын удирдлага ч байхгүй болно. Энэ тохиолдолд хүний ​​жолооч хэрэв байгаа бол жолоодлогын удирдлагыг ашиглах боломжгүй тул жолоодлогын ажилд оролцох боломжгүй болно.

Зарим бүрэн бие даасан тээврийн хэрэгслийн хувьд зарим загвар нь хүн жолоодлоготой байх боломжийг олгодог хэвээр байгаа ч хүн жолоодлогын процесст оролцох шаардлагагүй юм. Тиймээс хэрэв хүн хүсвэл жолоо барихад хүн оролцох боломжтой. Ямар ч үед хиймэл оюун ухаан нь жолоодлогын аливаа ажлыг гүйцэтгэхэд хүнээс хамаардаггүй.

Хагас бие даасан тээврийн хэрэгслийн хувьд хүний ​​жолооч, хиймэл оюун ухаан хоёрын гар нийлсэн харилцаа байдаг. Зарим загварт хүний ​​жолооч жолоодлогын удирдлагыг бүрэн гартаа авч, хиймэл оюун ухааныг жолоодлогод оролцохыг үндсэндээ зогсоож чаддаг. Хэрэв хүний ​​жолооч хиймэл оюун ухааныг жолооны үүрэгт эргүүлэн оруулахыг хүсвэл тэд үүнийг хийж чадна, гэхдээ энэ нь заримдаа хүнийг жолоодлогын удирдлагаас татгалзахад хүргэдэг.

Хагас бие даасан үйл ажиллагааны өөр нэг хэлбэр нь хүний ​​жолооч болон хиймэл оюун ухаантай нэг баг болж хамтран ажиллах явдал юм. Хиймэл оюун ухаан жолоодож, хүн жолоодож байна. Тэд хамтдаа жолоодож байна. Хиймэл оюун ухаан нь хүний ​​хувьд байж магадгүй юм. Хүн хиймэл оюун ухааныг хойшлуулж магадгүй юм.

Хэзээ нэгэн цагт AI жолоодлогын систем нь өөрөө жолоодлоготой машин тэсэшгүй нөхцөл байдалд орж, автомат жолоодлоготой машин осолдох гэж байгааг тооцоолон тогтоож магадгүй юм.

Хажуугаар нь зарим шинжээчид өөрөө жолоодлоготой машинууд осолдохгүй гэж эргэлзэж байгаа нь дэмий хоосон зүйл бөгөөд хэтэрхий бүдүүлэг, буруу ойлголт юм. Миний сурвалжлагыг эндээс үзнэ үү. холбоос энд байна.

Өөрөө жолоодлоготой машин мөргөлдөх, осолдох тал руу явж байгаа хувилбарыг үргэлжлүүлбэл AI жолоодлогын систем нь жолоодлогын удирдлагыг хүний ​​жолоочид өгөхөөр програмчлагдсан байж магадгүй юм. Хэрэв хүний ​​жолооч зайлсхийх арга хэмжээ авахад хангалттай хугацаа байгаа бол энэ нь хиймэл оюун ухааны хувьд ухаалаг бөгөөд зөв зүйл байж магадгүй юм.

Гэхдээ хиймэл оюун ухаан нь хүлээлгэн өгөх ажлыг хэдхэн секундын дотор гүйцэтгэсэн гэж бодъё. Хүний жолоочийн хариу үйлдэл үзүүлэх хугацаа нь зохих хариу үйлдэл үзүүлэхэд хангалттай хурдан биш юм. Нэмж хэлэхэд, хэрэв хүн гайхамшигтайгаар хангалттай хурдан байсан бол сүйрлийн өмнөх хязгаарлагдмал хугацаанд хийх боломжтой зайлсхийх арга хэмжээ байхгүй байх магадлал өндөр байна. Энэ нь хоёр зүйл юм: (1) хүний ​​жолоочийн арга хэмжээ авахад хангалттай хугацаа байхгүй, (2) хэрэв хүний ​​жолооч арга хэмжээ авах боломжтой байсан бол өгсөн дутуу хугацаанд тухайн үйлдлийг гүйцэтгэх хугацаа хангалтгүй.

Ерөнхийдөө энэ нь сагсан бөмбөгийн чимээ шуугианы нөхцөл байдал, уйтгартай болсон үйлдвэрийн машин механизмын тухай миний өмнөх ярилцлагатай төстэй юм.

Үүн дээр муу муухай орцыг нэмчихье.

Автомашин үйлдвэрлэгч эсвэл өөрөө жолооддог технологийн фирмүүд өөрсдийн флотод тохиолддог янз бүрийн автомашины осолд өртөхийг хүсдэггүй. AI жолоодлогын систем нь хүний ​​жолооч хүнд нөхцөл байдлын талаар ямар нэгэн зүйл хийх хангалттай хугацаа байгаа эсэхээс үл хамааран хүний ​​​​жолооч дээр үргэлж хяналт тавихаар програмчлагдсан. Ийм төрлийн машин осолдох бүрд автомашин үйлдвэрлэгч эсвэл өөрөө жолоодлоготой технологийн фирм нь хүний ​​жолооч удирдлагад байсан бол хиймэл оюун ухаан байгаагүй гэж дуу хоолойгоо хүргэж чаддаг.

Тэдний хиймэл оюун ухаан жолоодох системд үзүүлсэн амжилт нь гайхалтай юм шиг санагддаг.

Эдгээр автомашины осолд AI жолоодлогын систем нэг ч удаа "буруутай" байсангүй. Үргэлж л тэр хараал идсэн жолооч нар замаас харц салдаггүй бололтой. Бид энэ бүдүүвчийг залгих хандлагатай байж магадгүй бөгөөд бүрэн нарийвчлалтай хиймэл оюун ухаан хэзээ ч буруу байдаггүй гэдэгт итгэдэг. Хүний жолооч нар замбараагүй, жолоодлогын олон алдаа гаргадаг гэдэгт бид итгэх хандлагатай байдаг (бид туршлагаараа мэддэг учраас). Логик дүгнэлт нь хүний ​​жолооч нар буруутан байх ёстой бөгөөд хиймэл оюун ухаан жолоодох систем нь гэм буруугүй юм.

Автомашин жолоодлогын зарим дэмжигчид энэ шинж чанарын талаар бухимдахаас өмнө хүний ​​жолооч буруутай байж магадгүй бөгөөд тэд жолоодлогын удирдлагыг хиймэл оюун ухаанаас авах гэх мэт арга хэмжээнүүдийг эрт авах ёстой байсан гэдгийг бүрэн хүлээн зөвшөөрцгөөе. Хиймэл оюун ухаан жолоодлогын удирдлагыг хүлээлгэн өгөх үед хүний ​​жолооч ямар нэгэн чухал зүйл хийсэн байх магадлал бас бий. гэх мэт.

Энд гол анхаарлаа хандуулсан зүйл бол хиймэл оюун ухаан нь тээврийн хэрэгслийн жолооч гэж тооцогддог байсан бөгөөд дараа нь хүний ​​жолооч юу хийж чадахыг үл тоомсорлон, хүний ​​жолооч руу халуун төмс шиддэг. Тиймээс ч олон хүн хагас бие даасан тээврийн хэрэгслийн давхар жолоодлогын талаар санаа зовж байна. Жолооч хэтэрхий олон байна гэж та хэлж магадгүй. Зорилго нь хүн жолоодох шаардлагагүй, хиймэл оюун ухаан үргэлж жолооддог бүрэн бие даасан тээврийн хэрэгсэлтэй болох замаар асуудлыг шийдэх явдал юм.

Энэ нь хиймэл оюун ухаан жолоодож байх үед юу эсвэл хэн хариуцах вэ гэсэн асуулт гарч ирдэг бөгөөд энэ талаар би өөрийн баганад олон удаа хөндөж байсан. холбоос энд байна болон холбоос энд байна.

Дүгнэлт

Хагас бие даасан тээврийн хэрэгсэлтэй холбоотой автомашины ослын талаар сонсох эсвэл уншихдаа болгоомжтой байх хэрэгтэй. Тэдний хиймэл оюун ухаантай жолоодлогын систем нь өө сэвгүй рекордтой гэж зарлан биднийг хуурахыг оролддог хүмүүсээс болгоомжил. -ийн заль мэх AI халуун төмсний синдром холимогт байж болно.

Эдгээр асуудлаар заль мэх хийх гэж оролддог компаниудын хувьд бид Абрахам Линкольны "Та бүх хүмүүсийг зарим үед, зарим хүмүүсийг үргэлж хуурч чадна, гэхдээ чи хуурч чадахгүй. бүх хүмүүс үргэлж."

Би энд дэлгэцийн ард нуугдаж, заримдаа бүрээсний доор байрлуулсан хиймэл оюун ухааны ид шидийг илчлэхийг хичээсэн. байх болно илүү их хууртагдах болно.