Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинуудын жишээг ашиглан хиймэл оюун ухааны ёс зүйн хил хязгаарыг радикал ёс суртахуунтай хиймэл оюун ухааны ертөнц рүү түлхэж байна.

Өнөөгийн өргөнөөр гарч ирж буй хиймэл оюун ухааны ёс суртахууны давамгайлсан тенор, анхаарал нь жинхэнэ замбараагүй байдалд орсон уу?

Зарим нь тэгж бодож байгаа бололтой.

Үүнийг задалцгаая.

AI-ийн ёс зүйн үр дагаврыг сонирхох хандлага нэмэгдэж байгааг та ерөнхийд нь мэдэж байгаа байх. Үүнийг ихэвчлэн AI Ёс зүй эсвэл Ёс суртахууны AI гэж нэрлэдэг бөгөөд бид эдгээр хоёр нэрийг голчлон ижил төстэй, сольж болохуйц гэж үзэх болно (зарим хүмүүс энэ таамаглалын талаар маргаж магадгүй, гэхдээ би бидний анхаарлыг сарниулахгүй байхыг санал болгохыг хүсч байна. Энэ хэлэлцүүлгийн зорилгоор боломжит зөрүү, хэрэв байгаа бол).

Хиймэл оюун ухаантай холбоотой ёс суртахууны болон ёс суртахууны талаар анхаарал хандуулах болсон нэг шалтгаан нь аажмаар нэмэгдэж байгаатай холбоотой юм. AI For Bad. Анхандаа хиймэл оюун ухааны хамгийн сүүлийн үеийн давалгааг голчлон санал болгож буй гэж ойлгож байсан AI For Good. Энэ бол хиймэл оюун ухаан нь компьютерийн одоог хүртэл туслахыг хүсээгүй олон асуудлыг шийдвэрлэхэд тусалж чадна гэсэн санаа байв. Бид эцэст нь дэлхийн хамгийн хүнд хэцүү олон асуудлыг шийдэхийн тулд хиймэл оюун ухааныг ашиглаж магадгүй юм.

Мөрөөдөлтэй аялалын явцад зоосны нөгөө тал байгаа гэдгийг ухаарсан. Энэ нь AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан нүүр царай таних аргачлалын талаар та зарим үед арьс өнгө, хүйсээр ялгаварлан гадуурхах үзлийг агуулсан броухахагийн талаар мэдэж болно (энэ холбоос дээрх миний шинжилгээг үзнэ үү). Сайн биш. Одоо алгоритмын шийдвэр гаргах (ADM) функцэд олон тооны таагүй тэгш бус байдлыг агуулсан AI системийн маш тодорхой жишээнүүд бий.

Хиймэл оюун ухаан дахь зарим хүндрэлтэй асуудлууд нь ёс зүйн хувьд хил хязгаартай байдаг бол бусад асуудлууд нь ёс зүйн үндэслэлтэй хил хязгаараас бараг давсан байдаг. Дээрээс нь хиймэл оюун ухаан нь хууль бусаар ажиллаж байгаа эсвэл шууд хууль бус үйлдэл хийдэг байж магадгүй гэж та тооцож болно. Хууль, ёс суртахууны хэм хэмжээнд баригдах хоёр шат дамжлагыг удаашруулах зорилготой AI For Bad мөн анхдагч байдлаар ёс суртахуунгүй, хууль бус элементүүдээр бүрэн дүүрэн байж болох хиймэл оюун ухааны байнгын дайралтаас урьдчилан сэргийлэхийг хичээ.

Би энэ холбоос болон энд байгаа линк зэрэг баганууддаа AI-ийн ёс зүйн сэдвийг нэлээд дэлгэрэнгүй авч үзсэн. Харьцангуй нийтлэг Ёс зүйн AI хүчин зүйлсийн нэг багц нь хиймэл оюун ухааны эдгээр шинж чанаруудад анхаарлаа хандуулах явдал юм.

• Шударга байдал
• Ил тод байдал
• Тайлбарлах чадвар
• Нууцлалын
• Итгэмжлэгдсэн
• Нэр хүнд
• Ашиг тус
• Гэх мэт

Эдгээр нь өнөөгийн хиймэл оюун ухааныг бий болгох, ашиглах талаар бидний бодож үзэх ёстой нийгмийн бүтээн байгуулалтууд юм. Хэрэв та хиймэл оюун ухааны ёс зүйг хамарсан нийтлэл эсвэл блог нийтлэлийг харвал уг нийтлэлийн сэдэв нь дээр дурдсан хүчин зүйлүүд эсвэл шинж чанаруудын аль нэгэнд төвлөрч байгааг олж мэдэх болно.

Ёс суртахууны хиймэл оюун ухааныг уриалж буй хүмүүс эдгээр хүчин зүйлсийг анхаарах нь зүйтэй гэдэгт би итгэдэг. Үнэн хэрэгтээ жинхэнэ асуудал бол хиймэл оюун ухаан бүтээгчид болон хиймэл оюун ухааныг сурталчилж буй хүмүүс мессежийг хүлээж авахгүй байгаа юм шиг санагдаж байна. Энэ нь AI Ёс суртахууны хөдөлгөөний дунд байгаа хүмүүсийг эдгээр шинж чанарууд яагаад ийм чухал болохыг тайлбарлахад түлхэц өгсөн юм. Харамсалтай нь хиймэл оюун ухааныг ашигладаг олон тооны AI хөгжүүлэгчид болон пүүсүүд үүнийг ашиглах нь сайхан, зүгээр л сонголттой гэж боддог, эсвэл Ёс суртахууны хиймэл оюун ухааныг өдөр тутмын практик шинж чанартай зүйлээс илүү хийсвэр эрдэм шинжилгээний дасгал гэж үздэг.

Миний таамаглаж байгаагаар, Ёс суртахууны хиймэл оюун ухааны талаар толгойгоо гашилгасан олон хүмүүс хэзээ нэгэн цагт сэрээд нийгэм, мөн хуулийн хатуу халхавч дор байгаагаа бүдүүлэг байдлаар олж мэдэх болно. Бүх төрлийн бараа, үйлчилгээнд шингэсэн хиймэл оюун ухаан нь төрөлхийн өрөөсгөл ойлголт, тэгш бус байдлын шинж чанартай болохыг олж мэдээд хүмүүс ихээхэн бухимдах болно. Хууль тогтоогчид ийм хиймэл оюун ухааныг сурталчилж буй хүмүүсийг хууль ёсны дагуу хоёрдмол утгагүй дүрэм журамд оруулахыг хичээж, баталгаажуулахын тулд шинэ хуулиудыг аль хэдийнээ урагшлуулж байгаа бөгөөд ингэснээр хиймэл оюун ухаан бүтээгчид болон хиймэл оюун ухааныг хөгжүүлэгчдэд иргэний болон прокурорын аливаа сөрөг гэмт хэргийн боломжоос зайлсхийхэд илүү хэцүү болгож байна. тэдний хичээл зүтгэлээс.

Шударга ёсны дугуйнууд ямар ч эргэлзээгүйгээр хиймэл оюун ухааныг ялгаруулж, хөгжүүлж буй хүмүүсийн зүг хөдөлнө.

Тодруулж хэлбэл, AI For Bad Зөвхөн хорон санаат жүжигчидтэй холбоотой байх албагүй. Хиймэл оюун ухаан хөгжүүлэгчид болон хиймэл оюун ухааныг дэлхий нийтэд түгээн дэлгэрүүлж буй хүмүүсийн дийлэнх нь тэдний гарт юу байгааг мэддэггүй нь тогтоогдсон. AI Ёс зүйн тухай түгшүүрийн дохио тэдний чихэнд хараахан хүрээгүй байгаа бололтой. Та аз жаргалтай байгаа хүмүүсийг өрөвдөж болно, гэхдээ энэ нь тэднийг хариуцлага, анхаарал халамжийн эцсийн үүргээс шууд чөлөөлөхгүй.

Зохисгүй хиймэл оюун ухааны буруугийн буруу нь хиймэл оюун ухааны хөлд байдаг гэсэн далд оюун санааны урхинд автаж болохгүй гэдгийг би товчхон дурдмаар байна. Энэ нь бараг л инээдэмтэй, гэхдээ энэ нь зугтах нүх болгон ашиглагдаж байгаа бөгөөд өнөөгийн хиймэл оюун ухааныг сайн мэдэхгүй хүмүүст үе үе ажилладаг бололтой. Өнөөгийн хиймэл оюун ухаан мэдрэмжгүй байгааг та харж байна. Ойрхон ч биш. AI мэдрэмжтэй байх боломжтой эсэхийг бид мэдэхгүй. Мэдрэмжтэй хиймэл оюун ухаанд хэзээ хүрч болохыг бид мэдэхгүй.

Хамгийн гол нь хиймэл оюун ухаан нь хүний ​​анхаарлыг сарниулах тоглоомыг хиймэл оюун ухаан руу хуруугаараа чиглүүлэн буруутгадаг тул хариуцлагатай тал нь увайгүй үйлдэл юм. Одоо байгаа хиймэл оюун ухааныг хүний ​​хөгжүүлэгчид программчилсан байдаг. Одоо байгаа хиймэл оюун ухааныг хүмүүс гаргаж, ашиглах боломжтой болгодог. Хиймэл оюун ухааныг бүтээдэг компаниуд болон хиймэл оюун ухааныг бүтээгдэхүүн, үйлчилгээндээ ашиглах зорилгоор хиймэл оюун ухааныг тусгай зөвшөөрөл буюу худалдан авдаг компаниуд нь бүхэлдээ хүн төрөлхтөнд тулгуурласан байдаг. Хиймэл оюун ухаан биш харин хүмүүс бол хариуцлага хүлээдэг хүмүүс (магадгүй ирээдүйд бид өөр, илүү дэвшилтэт хиймэл оюун ухаантай байх болно, тэр үед бид буруутгах газар хаана байгааг ялгахтай илүү нягт тэмцэх хэрэгтэй болно).

Товчхондоо, Ёс суртахууны хиймэл оюун ухааны дуучид нийгэмд хиймэл оюун ухааны ёс зүйн үр дагаврыг ойлгуулах гэж шаргуу хичээж байгаад бид талархах ёстой. Яг одоо энэ нь эгц гүвээ өөд чулуу өнхрүүлэх Сизифын үйлдэлтэй бараг адилхан юм. Сонсох ёстой олон хүмүүс тэгдэггүй. Сонсож байгаа хүмүүс засч залруулах арга хэмжээ авахыг үргэлж уриалдаггүй. Сисиф тэрхүү чулууг үүрд толгод руу түлхэх даалгаврыг биелүүлж байсан шиг хиймэл оюун ухааны ёс зүйн какофони нь зайлшгүй мөнхийн үймээн самуун байх ёстой гэж та бараг төсөөлж болно.

Энэ нь AI-ийн ёс зүйн асуудлыг шийдэж байгаа бололтой, бид өөр сэдэв рүү шилжиж магадгүй юм.

Гэхдээ хүлээгээрэй, илүү олон зүйл байна.

Зарим хүмүүс одоо байгаа Ёс суртахууны AI-н талаарх бодлыг үл тоомсорлодог гэж баталж байгааг мэдээд та гайхах эсвэл бүр цочирдох байх. Хиймэл оюун ухааны ёс зүйн үндсэн тулгуур чулуу нь бүлэг сэтгэхүйд автсан гэж тэд чангаар ухуулж байна.

Энэ бол хэлэлцээ.

Миний өмнө дурьдсан хиймэл оюун ухааны ёс зүйн хүчин зүйлсийн жагсаалт нь Ёс зүйн хиймэл оюун ухааны багийнхны санаа зовоосон асуудал болсон гэж хэлсэн. Хүн бүр эдгээр хүчин зүйлсийг ухаалгаар хүлээн зөвшөөрч, тэдгээр хүчин зүйлсээс дахин дахин холддог. Цуурай танхимтай адил AI-ийн ёс зүйчдийн давамгайлал нь ижил дууг өөрсөддөө давтаж, дууг нь таашаадаг. Багаасаа гарах хүсэлтэй цөөхөн байдаг. Сүргийн сэтгэлгээ нь Ёс зүйн хиймэл оюун ухааныг гүйцэж түрүүлсэн (тиймээс үүнийг баталж байна).

Энэ төөрөгдөл хэрхэн үүссэн бэ? Ёс суртахууны AI-ийн энэ хүсээгүй нийтлэг байдлыг та тохиолдлын аль нэг дээр үндэслэсэн эсвэл загвараар тайлбарлаж магадгүй юм.

Гэнэтийн тохиолдлын хувилбарт гол хүчин зүйлүүд дээр анхаарлаа төвлөрүүлэхэд маш хялбар байдаг. Яг л хайрцагны гадна талд гарах шаардлагагүй. Цаашилбал, Ёс суртахууны AI лагерьт багтдаг хүмүүс нормоос хэтэрсэн ойлголтыг хайхын оронд ижил төстэй ажил эсвэл санааг илүү сонирхож байх магадлалтай. Өдний шувууд цуглардаг. Инч инчээр, AI Ёс суртахууны талбар нь давчуу кластерт бөөгнөрсөн гэж ярьдаг бөгөөд ерөнхийдөө танил тал, тав тухтай байдал нь сайн байдаг.

Энэ нь AI Ёс зүйн олон оролцогчдын дургүйцлийг төрүүлнэ гэдэгт итгэлтэй байна (Би зүгээр л бусад хүмүүс юу маргаж байгааг дурдаж, эдгээр мэдэгдлийг батлахгүй гэдгийг санаарай).

Хэрэв та уур уцаартай байхыг хүсч байвал уг үзэгдэл нь загвараар үүссэн гэсэн саналыг анхаарч үзээрэй. Хуйвалдааны онолчдын талбарт хиймэл оюун ухааны технологичид болон технологийн компаниуд Ёс зүйн AI-ын талаарх үзэл бодлыг нарийсгахад шууд эсвэл далд байдлаар хувь нэмрээ оруулж байгаа гэж үздэг.

Тэд яагаад ингэх болов?

Бид хоёр боломжийн талаар бодох болно.

Нэг ойлголт бол хиймэл оюун ухааны технологичид одоо байгаа Ёс суртахууны AI-ийн асуудлыг илүүд үздэг, учир нь эдгээр хүчин зүйлсийг технологийн тусламжтайгаар засах боломжтой байдаг. Жишээлбэл, хэрэв та тайлбарлахыг хүсч байвал хиймэл оюун ухааны технологичид болон AI судлаачид тайлбарлах боломжтой AI (XAI) чадварыг бий болгохын тулд өдөр шөнөгүй ажиллаж байна. Ёс суртахууны AI хүчин зүйлсийн зонхилох жагсаалтын гоо үзэсгэлэн нь хиймэл оюун ухааны технологийн шийдлийн хүрээнд багтах явдал юм. Энэхүү онолыг дэмжигчид хиймэл оюун ухаанаар хялбархан шийдэгдээгүй бусад хүчин зүйлсийг хүчин зүйлийн жагсаалтад татах боломжгүй гэж хэлэх нь зүйтэй юм.

Дараа нь танд өөр илүү харгис хувилбар байна. Өндөр технологийн компаниуд болон бусад хүмүүс хиймэл оюун ухааны ёс суртахууны асуудалд голчлон үг хэлэхийг хүсч байна гэж санал болгож байна. Энэ утгаараа тэд технологийн хувьд шийдвэрлэх боломжтой асуудлуудын товч жагсаалтад дуртай. Бусад санаа зовоосон асуудлуудыг нэмэх оролдлого нь тэдгээр технологийн компаниудын амьдралыг улам хүндрүүлнэ. Тэд Ёс зүйн AI тунхаглалыг тайвшруулахад шаардагдах хөрөнгө оруулалтыг багасгахыг хүсч байна.

Ийм төөрөгдөл нь нударга зөрүүлж, энгийн уур хилэнгээс хол давсан байх ёстой гэж би бодож байна. Ёс суртахуунтай хиймэл оюун ухаанд хувь нэмрээ оруулахыг уйгагүй хичээж буй хүмүүс эдгээр мэдэгдлүүдэд нэрвэгдэх магадлалтай бөгөөд тэд яагаад ичгүүргүй, увайгүй буруутгалд дургүйцэж байгааг та төсөөлж болно.

Зодооныг эхлүүлэхгүй байж, Ёс суртахууны AI лагерьт өөр юу дутагдаж байгааг харцгаая. Орчин үеийн Ёс зүйн хиймэл оюун ухааны үзэл бодлыг өргөжүүлэх, өргөжүүлэхийг хүсч буй өөр нэг баазыг заримдаа гэж нэрлэдэг. Радикал ёс зүйн AI.

Radical Ethical AI-ийн нэр нь тохирох уу эсвэл хүсээгүй юу гэж та гайхаж магадгүй.

"Эрс" гэсэн үгийн утга нь сайн эсвэл муу байж болно. Radical Ethical AI-ийн нэг тайлбар нь хиймэл оюун ухааны ёс зүйн статус-кво-г сэгсрэх гэсэн оролдлого юм. "Эрс"-ийн хэрэглээ нь бид эргэлдэж буй эргэлтийг бага зэрэг тохируулах юм уу сул гаргахаас гадна гайхалтай эргэлт хийх хэрэгтэйг харуулж байна. "Радикал"-ыг ашиглах нь дефибриллятор ашиглахтай ижил төстэй арга барилд цочрол авчрах болно гэж та маргаж болно, эс тэгвээс ердийн конвенцид хүрэхгүй.

Бусад хүмүүс "радикал" гэсэн үгийг хавсаргаснаар та маш их замбараагүй байдал үүсгэж байна гэж хэлэх байх. Зарим нь радикализмыг хачирхалтай, хачирхалтай эсвэл хачирхалтай зүйл рүү гулсдаг гэж тайлбарладаг. Центристууд дангаар нь нэрлэж заншсанаас болж бүлэг сэтгэхүй байгаа эсэхээс шууд татгалзаж магадгүй. Хэл ярианы аяыг бууруул гэж зарим нь хэлэх болно, тэгвэл та илүү нухацтай анхаарал тавьж, сонирхож магадгүй юм.

Нэрний асуудлаас үл хамааран та бусад лагерь нь бидний үлдсэн хэсэг нь алга болсон гэж юу гэж үзэж байгааг та сонирхож магадгүй юм. Whatchamacallit-д ямар нэгэн дотоод эрхтний хариу үйлдлийг хойш тавь.

Та үхрийн мах хаана байна гэж гаднаас нь асууж магадгүй юм.

Би алга болсон найрлагад дурдсан заримыг төлөөлөхийг хичээх болно.

Нэгдүгээрт, уламжлалт (хуучирсан?) Ёс суртахууны хиймэл оюун ухааны талаарх зонхилох үзэл нь хиймэл оюун ухаан зайлшгүй гэсэн далд таамаглалыг хязгаарладаг гэж мэдэгддэг. Тиймээс, хиймэл оюун ухаан нь тодорхой төрлийн хэрэглээ, нийгмийн нөхцөл байдлын картанд байх ёстой эсэхийг шалгахын оронд AI гарч ирж байгаа тул бид үүнийг хамгийн сайн хэлбэрт оруулах шаардлагатай байна. Энэ нь гахайн дээр уруулын будаг түрхэхтэй адил юм (өөрөөр хэлбэл, үүнийг илүү сайхан харагдуулахын тулд юу ч хийсэн гахай хэвээрээ байгаа) гэж та бүдүүлэг хэлж болно.

Хэрэв та үүнийг хэт туйлшруулбал шударга байдал, хувийн нууц, бусад зүйлсийн талаархи эргэлзээ нь Титаникийн тавцан дээр сандал эргүүлэхтэй адил байж магадгүй юм. Энэ хөлөг онгоц живэх хэвээр байгаа нь бид хиймэл оюун ухаан юу ч байсан тохиолдох болно гэж таамаглаж байна гэсэн үг. Гэхдээ живэх нь цорын ганц сонголт мөн эсэхийг эргэн харах хэрэгтэй болов уу.

Би удахгүй энэ асуудалд эргэн орох болно.

Заавал зохих ёсоор нь өгөөгүй, эсвэл бусад давамгайлсан сэдвүүдэд анхаарал хандуулснаас болж шахагдсан Ёс суртахууны бусад асуудлуудыг энд хурдан оруулав.

• Компаниудад ажилд авах, халах шийдвэр гаргахад хиймэл оюун ухааныг ашиглахыг нэмэгдүүлэх гэх мэт хүмүүсийг удирдахад хиймэл оюун ухаан ашиглахаас гадна амьтдыг удирдахад хиймэл оюун ухааныг ашиглах талаар мөн адил эргэлзээ төрүүлж байна. Хиймэл оюун ухааныг ферм, амьтны хүрээлэн, ерөнхийдөө амьтад тэжээдэг бүх газарт ашиглах хүчин чармайлт хийгдэж байна. AI амьтдын сайн сайхан байдалд хэрхэн нөлөөлөх вэ?
• Хиймэл оюун ухаан нь ялангуяа эмзэг бүлгүүдэд бета туршилтанд хамрагдах үе байдаг бөгөөд үүнийг эхний оролдлого болгон хийж, дараа нь хиймэл оюун ухаан илүү өргөн тархах болно. Ёс суртахууны хувьд хиймэл оюун ухаанд онцгой анхаарал хандуулах нь эдгээр практикт чиглэгдэх ёстой.
• Ажилчдыг хиймэл оюун ухаанаар солих талаар олон хэлэлцүүлэг өрнөж байгаа ч бага цалинтай ажилчдыг хянахад ашигладаг хяналтын хэрэгсэл болох хиймэл оюун ухааны нөлөөнд төдийлөн анхаарал хандуулдаггүй.
• AI системийг барьж байгуулах, ажиллуулах нь экологи, байгаль орчинд үзүүлэх нөлөөллийн талаар хангалтгүй анхаарал хандуулж байх шиг байна (Үүнээс гадна хиймэл оюун ухаантай холбоотой нүүрстөрөгчийн ул мөрийн талаархи миний хэлэлцүүлгийг та сонирхож магадгүй, эндээс үзнэ үү).

· Гэх мэт.

Ёс суртахууны AI-ийн зарим мэргэжилтнүүд эдгээр нь AI-ийн ёс зүйн талаархи уран зохиол, хэлэлцүүлгээс олж болох сэдвүүд гэдгийг шууд онцолж магадгүй юм. Эдгээр нь урьд өмнө хэзээ ч байгаагүй бөгөөд шинэлэг зүйл биш юм.

Радикал Ёс суртахууны AI цэвэршүүлэгчдийн хэтийн төлөв нь тэд бүрэн гишгэгдэхгүй газар нээсэн гэж хэлэхгүй гэдэгт би итгэдэг. Үүний оронд тэд Ёс суртахууны AI-ийн одоо байгаа гол зорилго нь амьсгалах агаарыг боогдуулж, бусад "хатуу" сэдвүүдийг зохих ёсоор нь авах боломжийг олгодог гэж тэд баталж байна.

Үүнийг хэлэх илүү таатай арга бол хиймэл оюун ухааны ёс зүйд анхаарал хандуулж байгаа нь бусад чухал сэдвүүдэд бага анхаарал хандуулсан явдал юм. Та сохор толбо байгаа гэдгийг санал болгож болох бөгөөд тэдгээрийг нугалахад хүргэх боломжтой эсэхийг авч үзэхэд тохиромжтой байх болно (энэ талаар мөн адил өгүүлэлд дурдсан болно. AI ба Ёс зүйн сэтгүүл Тило Хагендорфын "AI ёс зүй дэх сохор толбо" нэртэй саяхан бичсэн нийтлэлд).

Одоо бид Ёс суртахууны хиймэл оюун ухаан бага зэрэг гацсан эсэх тухай үлгэрийг авч үзсэн бөгөөд үүнийг зарим хүмүүс хийсвэр маргаан гэж хэлж байхад нөгөө хэсэг нь бодитой бөгөөд улам бүр дордож байна гэж шаардах болно. асуудлыг нарийвчлан авч үзэхэд ашиглах тохиолдол.

Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд уялдаа холбоотой асуудлыг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд гарч ирснээр ерөнхийдөө маргаангүй эсвэл дутуу илэрхийлэгдэж байгаа Ёс суртахууны хиймэл оюун ухаанд хамаарах ямар нэг санааг илэрхийлж байна уу?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд үргэлжилсэн хамрах хүрээг эндээс үзнэ үү.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулбал, жинхэнэ өөрөө жолооддог автомашинууд бол хиймэл оюун ухаан нь машиныг өөрөө дангаараа жолооддог бөгөөд жолоодлогын үеэр хүний ​​туслалцаа үзүүлдэггүй.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг эндээс авна уу), харин хүний ​​драйвераас хамтдаа хүчин чармайлт гаргахыг шаарддаг машиныг ихэвчлэн 2, 3-р түвшинд авч үздэг. жолоодлогын даалгаварыг хагас бие даасан байдлаар тодорхойлдог бөгөөд ихэвчлэн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг олон төрлийн автоматжуулсан нэмэлтүүдийг агуулдаг.

5-р түвшний өөрөө жолоодох жинхэнэ автомашин одоогоор гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, хэр удаан хүрэх нь хараахан гараагүй байна.

Үүний зэрэгцээ, Түвшин 4-ийн хүчин чармайлт нь аажмаар олон нийтийн замын хөдөлгөөний нарийн туршилтуудыг хийснээр зарим таталцлыг авахыг хичээж байгаа боловч энэхүү туршилтыг бие даан хийхийг зөвшөөрөх эсэх талаар маргаантай байгаа (бид бүгд туршилтанд амь насаа алдсан далайн гахайнууд Манай хурдны зам болон хурдны замаар явагдаж байгаа тул зарим нь миний холбоосыг эндээс үзнэ үү).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машинууд болон хиймэл оюун ухааны ёс суртахууны талаар анхаарах зүйлс

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний хэлэх гэж буй зүйлийн үндэс суурь болох хангалттай хэмжээний сэрэмжлүүлэг өгдөг гэдэгт би итгэж байна.

Бид одоо өөрөө жолоодлоготой машинуудын талаар гүн гүнзгий судалж, AI-ийн радикал ёс суртахууны талаар авч үзэх зүйл хангалттай байх ёсгүй гэж үзэж байна.

Орон зайн хязгаарлагдмал байдлаас болж, дараа нь ухаж болох нэг асуудалд анхаарлаа хандуулцгаая. Тодруулбал, AI-ийн ёс зүй давамгайлж байгаа нь хиймэл оюун ухаан зайлшгүй гэсэн далд таамаглалыг агуулсан гэж үздэг.

Хэрэв бид энэхүү түлхүүр таамаглалыг хиймэл оюун ухаанд суурилсан өөрөө явагч машинд хэрэглэх юм бол энэ нь Ёс суртахууны AI нийгэмлэг өөрөө өөрийгөө жолооддог машинуудыг зайлшгүй зохион бүтээж, нэвтрүүлэх болно гэж томоор тооцож байна гэсэн үг юм. Өөрийгөө жолооддог машинууд гарч ирнэ гэж тэд үнэлж байгаа бол сөрөг нэхэмжлэл нь үүнийг хийх ёстой. үгүй биш Энэ далд таамаглалыг дэвшүүлж, үүний оронд бид хиймэл оюун ухаантай өөрөө жолооддог машинтай байх ёсгүй (эсвэл өргөн тархсан бус зөвхөн онцгой нөхцөлд ашиглах гэх мэт зарим хувилбарууд) байх ёсгүй гэж бодсон.

Гайхалтай асуулт байна.

Тодруулж, дахин хэлэхийн тулд хиймэл оюун ухаан өөрөө жолооддог машинуудын талаархи ёс зүйн AI-ийн зонхилох үзэл баримтлал нь хиймэл оюун ухаан өөрөө жолооддог машин зайлшгүй байх ёстой гэж үзээд завийг орхигдуулж байна гэсэн нотолгоо юм. Ийм сэтгэлгээгээр хүлээлт хоёр талтай байх болно:

1. Хэрэв бид хиймэл оюун ухаантай өөрөө жолооддог машинтай байх ёстой юу, эсвэл хажуу тийшээ эргэлддэг, эсвэл анхаарал татахуйц гэрэлтэх агааргүй байх эсэх талаар ямар нэгэн шалгалт хийх нь цөөхөн.

2. Өөрийгөө жолооддог хиймэл оюун ухаант машинд анхаарлаа хандуулах нь ойлгомжтой, шударга байдал, хувийн нууц гэх мэт хүчин зүйлсийн уламжлалт жагсаалтын ёс зүйн хиймэл оюун ухааны үр дагаврыг тойрсон нарийн ширийн зүйлд анхаарлаа хандуулж, ерөнхий нэрийн дор эсвэл чимээгүй байдлаар хийх болно. Бид эдгээр бахархалтай бие даасан тээврийн хэрэгсэлтэй болно гэсэн таамаглал (өөр сонголт байхгүй).

Сонирхолтой санал.

Өөрийгөө жолооддог хиймэл оюун ухаантай машинтай холбоотой ийм асуудалд ерөнхий анхаарал хандуулж буйг тохиолдлоор шалгаж үзэхэд хиймэл оюун ухаан өөрөө жолооддог машинууд зарим талаар зайлшгүй байх ёстой гэсэн таамаглал байдгийг харуулах болно, гэхдээ маш том анхааруулга, давхар одтой тэмдэглэгээтэй байх ёстой. тэр шүүрдэх мэдэгдлийн хамт.

Яагаад гэвэл.

AI-д суурилсан жинхэнэ өөрөө жолооддог машинууд үнэхээр боломжтой эсэхийг бид хараахан мэдэхгүй байна.

Мэдээжийн хэрэг, нийтийн эзэмшлийн замд нарийн зохион байгуулалттай туршилтууд явагдаж байна. Эдгээр нь 5-р түвшинд огт байхгүй. Энэ маргаангүй зүйл дээр хэн ч эсрэгээрээ үндэслэлтэй маргаж чадахгүй. Зарим зөв туршилтууд нь 4-р түвшинд шилжсэн мэт боловч эргэлдэж, харьцангуй хэврэг SODD-тэй (ODD эсвэл Operation Design Domains нь автомат жолоодлоготой машин үйлдвэрлэгч өөрийн бие даасан машин аюулгүй ажиллах боломжтой гэж заасан заалтууд юм) гэж хэлж болно. , энэ холбоос дээр миний хэлэлцүүлгийг эндээс үзнэ үү).

Өөрийгөө жолооддог автомашины талбай хэдхэн жилийн өмнөхөөс хамаагүй хол байгаа гэж хэлж болно. Цаашид юу болох талаар өөдрөг байх үндэслэлтэй шалтгаан бий. Хамгийн том гацсан зүйл бол энэ тоглолт хэзээ дуусах хуваарь юм. Мэргэжилтнүүдийн урьд нь таамаглаж байсан таамаг шууд биелж, алга болсон. Та одоо байгаа таамаглалууд ижил хувь тавилантай байх болно гэж найдаж болно.

Товчхондоо, хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд эцэст нь бий болно гэж үзэх хангалттай үндэслэл байгаа гэж та албан бусаар хэлж болох юм шиг санагдаж байна. Бид маш хязгаарлагдмал ODD-уудын дунд 4-р түвшин рүү явж байгаа юм шиг санагдаж байна. Дараагийн логик өргөтгөл нь илүү олон төрлийн, илүү гүн гүнзгий SODD-тэй байх ёстой юм шиг санагддаг. Бид хангалттай давхцаж, зарим талаараа бүрэн гүйцэд СОНДГОЙ бөмбөрцөгийг ялан дийлж чадсан зарим үед энэ нь 5-р түвшинд зоригтойгоор ороход хүрч байх шиг байна. Энэ бол наад зах нь хүлээгдэж буй ахиц дэвшлийн алхам алхмаар философи юм (үүнийг хүн бүр хүлээн зөвшөөрдөггүй).

Хиймэл оюун ухаанд суурилсан жинхэнэ автомат жолоодлоготой машинууд байдаг гэж тунхаглах нь юу гэсэн үг вэ, эсвэл бид тэдний оршин тогтнох гайхалтай мөчид ирлээ гэж тунхаглах нь юу гэсэн үг вэ гэсэн эргэлзээтэй байдаг учраас би эдгээр нарийн төвөгтэй мэт нугаралтын талаар дурдлаа. Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинуудын тухай таны тодорхойлолт юу вэ? Хэрэв та "teensy-weensy"-ийг 4-р түвшинд авлаа гэж хэлбэл, шампанскийн шилийг шидээд эхлэх байх. Хэрэв та бид 4-р түвшний булан эргэчихлээ гэж хэлбэл та эдгээр шампанскийн шилийг агуулахад тавих хэрэгтэй болно. Хэрэв та бид 5-р түвшнийг эзэмшсэн гэж хэлэх юм бол тэдгээр савнууд хадгалах тавиурын арын хэсэгт орох бөгөөд тоос шороонд дарагдах болно.

Ерөнхийдөө, хэрэв нийгэм хиймэл оюун ухаантай өөрөө жолооддог машин зайлшгүй байх ёстой гэсэн таамаглал дэвшүүлж байгаа бол энэ нь дээд талын таамаглал гэж та үндэслэлтэй маргаж болно. Хүн бүр ийм маргаантай санал нийлэхгүй байгаа тул магадгүй таамаглаж буй магадлалд сэтгэл дундуур байгаа хүмүүсийн хувьд таны ширүүн санал зөрөлдөөнийг тэмдэглэж байна.

Өөрийгөө жолооддог хиймэл оюун ухаантай машинуудын хувьд гарцаагүй гэсэн таамаглалыг дагаж мөрдвөл бид өөрсдийгөө асуудалд оруулах эсвэл хүнд хэцүү байдалд орох магадлалтай юу?

Энэ оньсого нь ил гарч ирдэг сонирхолтой эргэлтүүд байдаг.

Жишээлбэл, бидний байнга яригдаж байгаа нэг санаа зовоосон асуудал бол хиймэл оюун ухаанд суурилсан өөрөө жолоодлоготой машинуудыг зөвхөн зарим бүс нутагт ашиглах боломжтой, харин зарим газарт байдаггүй. Өөрийгөө жолооддог машинтай байх газрууд нь "байгаа" бол байхгүй хэсэг нь өөрөө жолооддог автомашины ашиг тусыг ашиглах боломжгүй болсон.

Энэ бол тунхагласан зүйл юм элитист эсвэл iтэгш байдал олон хүний ​​илэрхийлсэн үзэгдлийн түгшүүр. Үнэн хэрэгтээ, би энэ линк дээр, энд байгаа линк дээрх дэлгэрэнгүй дүн шинжилгээ гэх мэт олон удаа тайлбарласан.

Санаа нь хиймэл оюун ухаантай автомат жолоодлоготой машинуудыг флотод ашиглах магадлалтай. Автопаркийн операторууд өөрөө жолооддог машинаа хаана байрлуулахаа сонгоно. Өөрийгөө жолооддог машиныг ашиглах мөнгө олох газар нь аль нэг хот эсвэл хотын чинээлэг хэсэгт байдаг. Хотын ядуу эсвэл ядуу хэсэгт амьдардаг хүмүүс өөрөө жолооддог машин ашиглах боломжгүй болно.

Улс орнууд ч мөн адил хэцүү байдалд орно гэж үзэхийн тулд ижил логикийг экстраполяци хийдэг. Баян чинээлэг улс орнууд өөрөө жолоодлоготой машин ашиглахыг мэдрэх болно, харин ядуу буурай улсууд үүнийг мэдрэхгүй. Байгаа хүмүүс автомат жолоодлоготой тээврийн хэрэгсэлд илүү их хүртээмжтэй, ашиглалттай байх болно, үгүй ​​нь тийм биш.

Байгаа нь юу авч байгаа бол, байхгүй нь юу авч байна гэж та гайхаж байж магадгүй. Хиймэл оюун ухаантай жолоочгүй машинууд осолдох, мөргөлдөх тохиолдол багасна гэсэн хүлээлт байнга гардаг. Автомашины ослоос болж хүний ​​амь нас хохирох, бэртэх тохиолдол эрс багасна гэсэн итгэл үнэмшилтэй. Иймээс аль нэг хот, хотын чинээлэг хэсэг эсвэл чинээлэг улсууд автомашинтай холбоотой осол гэмтэл, нас баралтыг бууруулах боломжтой бол хүний ​​хүчээр удирддаг бүс нутгууд хиймэл оюун ухаанд суурилсан бие даан солих эсвэл солих боломжгүй болно. -Жолооч машинд ийм хэмжээний бууралт харагдахгүй.

Өөрийгөө жолооддог хиймэл оюун ухаантай автомашины бусад давуу талууд байдаг гэдгийг мэдэж аваарай (энэ холбоосоос илүү ихийг үзнэ үү).

Энд байгаа гол зүйл бол Ёс зүйн хиймэл оюун ухаан нь өөрөө жолооддог машиныг зөвхөн сонгон ашиглах боломжтой гэдгийг онцлон тэмдэглэснээр "өөрийгөө жолооддог машинууд зайлшгүй" гэдгийг тодотгож болно. Энэ нь логикийн идэш тэжээл мэт санагдаж магадгүй гэдгийг би мэднэ. Нийгмийн зарим хэсэгт хиймэл оюун ухаан олдохгүй байгаад бид аль хэдийн санаа зовж байна гэсэн үг. Энэхүү сэтгэхүйн хүрээнд хиймэл оюун ухааныг бий болгох нь тухайн нөхцөл байдлын хувьд зайлшгүй биш юм (хэрэв та зөрөх юм бол).

Дүгнэлт

Мэдэхгүй зүйл чинь чамд хор хөнөөл учруулдаг, харин мэдэхгүй зүйл чинь чамайг үнэхээр арчиж хаядаг гэсэн мэргэн ухаант мэргэдийн зөвлөгөөг та мэдэх нь дамжиггүй.

Radical Ethical AI-ийн төлөв байдлын талаархи нэг үзэл бодол бол нэршилтэй холбоотой ямар нэгэн гайхшралыг үл харгалзан бид ядаж юуг алдаж байна гэж үзэж байгааг сонсох ёстой. Магадгүй нэг бүлэг сэтгэхүй хийгдэж байгаа бөгөөд уламжлалт Ёс суртахууны хиймэл оюун ухаан буюу хуучирсан хиймэл оюун ухаан гэж нэрлэгддэг ёс зүй зогсонги байдалд орж, тодорхой зүйл дээр гацсан байж магадгүй юм. Хэрэв тийм бол хойд талын цохилт нь хөдөлгүүрийг дахин ажиллуулж, өргөн хүрээ рүү шилжихэд тусална.

Эсвэл, Ёс суртахууны хиймэл оюун ухаан, хиймэл оюун ухаант ёс зүй сайн ажиллаж байна, танд маш их баярлалаа, энэ салбар зүгээр л ялаа болохыг хичээж байна. Сул тал нь ялангуяа үймүүлэх, бухимдуулах зүйл биш юм шиг санагддаг. Хэзээ эсвэл ямар нэгэн байдлаар бүх зүйл хяналтаас гарахад сүсэг бишрэлтэй, хамтран дахин үнэлгээ хийх нь гүн гүнзгий ач тустай байж болох юм.

Тасралтгүй сайжруулалт нь магтууштай хүсэл эрмэлзэл юм. Хиймэл оюун ухаан гарч ирэх үед бид мэдэхгүй зүйлээ мэдэхгүй байсан гэдгээ хожим нь олж мэдэхийг хүсэхгүй байна гэдгийг та бараг хэлж чадна. бидний мэдэхгүй байсан талууд (эсвэл бид тэдгээрийг зарим талаар мэддэг байсан бөгөөд санамсаргүйгээр дарсан).

Энэ нь хэтэрхий радикал биш юм шиг санагдаж байна, тийм үү?