Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинуудыг шуугиулдаг хиймэл оюун ухааны ёс зүй ба алдартай хиймэл оюун ухаант ер бусын хөндий

Заримдаа таны анхаарлыг татдаг, зөн совингоо хөдөлгөдөг хачин жигтэй зүйл байдаг бөгөөд ямар нэгэн байдлаар ямар нэг зүйл болохгүй. Хачирхалтай байдал нь таны нүүрэнд илэрхий биш, огт илэрхий биш юм. Та тэрхүү үл нийцэл гэж юу болохыг, эсвэл таны зүйр үг аалзны мэдрэмж хэрхэн чичрэхийг шууд хуруугаа хийж чадахгүй байж магадгүй юм.

Магадгүй нарийн өгөгдлийн сэжүүрүүд мэдрэгдэж байгаа байх. Магадгүй та гэдсэндээ диссонанс байгааг ойлгосон байх. Хэзээ нэгэн цагт үл ойлгогдох аймшигт байдлын өчүүхэн ч гэсэн сэжүүр байдаг бөгөөд хүний ​​нарийн ширхэгтэй радар нь нуугдмал дохиог хүлээн авч байна гэж би хэлж чадна.

Ер бусын хөндийд тавтай морил.

Хэрэв та хиймэл оюун ухаан, тэр дундаа робот техникийн салбарт харьцангуй алдартай сэдэв болох ер бусын хөндийн талаар хэзээ ч сонсож байгаагүй бол миний энэ сэдвээр сайтар ярилцаж, дүн шинжилгээ хийх болно.

Хэдийгээр үндсэн зарчим, гарал үүслийн тодорхойлолтод хиймэл оюун ухаан, роботууд багтдаг ч бидний амьдралд тохиолддог олон зүйлд ерөнхий ойлголт хамаатай. Бид эхлээд ер бусын хөндийн гарал үүсэл, анхны утгыг судалж, дараа нь үзэгдлүүд илүү өргөн хүрээнд хэрхэн хэрэглэгдэх боломжтойг харахын тулд өргөжүүлэх болно.

Энэ ер бусын хөндий байгаа эсэхийг бид авч үзэх болно гэдгийг би нэмж болно.

Харж байна уу, зарим үл итгэгчид, жигшин зэвүүцэгчид энэ асуудал бүхэлдээ жаахан онигоо, ус үл барьдаг гэж маргаж байна. Мэддэг хүмүүст энэ сэдвийг ярихдаа болгоомжтой байгаарай. Зарим нь таныг ер бусын хөндийг сайн мэддэг гэж баясгалантай инээмсэглэн нуруун дээр чинь алгадах бол зарим нь энэ бол гахайн шавхайн шуурга бөгөөд та оюун ухаанаа цэвэрлэх хөөстэй савангаар оюун ухаанаа бүхэлд нь цэвэрлэх хэрэгтэй гэж хатуу лекц унших болно. .

Энд байгаа сайн мэдээ бол та ер бусын хөндийг бодитой эсэх, мөн үүнийг ухамсартайгаар ашиглах ач холбогдолтой эсэх, эсвэл үүний оронд технологийн санаануудын хог хаягдал руу шидэх хэрэгтэй эсэхээ шийдэх болно. Тэр утгаараа та жолоочийн суудалд сууж байна.

Энэ бүхэн нь Ёс суртахууны хиймэл оюун ухааны өсөн нэмэгдэж буй салбар болон нийгэм хиймэл оюун ухааны ёс зүйд нухацтай, анхааралтай хандах ёстойг ухаарч буйтай нягт холбоотой юм. Бид тэр зангиагаа хоромхон зуур хийнэ.

Эхлэх хамгийн сайн газар бол ер бусын хөндийн үзэл баримтлалыг гаргаж ирсэн профессороос шууд иш татаж, тунхагласан үзэгдлийг шууд нэрлэсэн явдал юм. 1970 онд Токиогийн Технологийн Хүрээлэнгийн профессор Масахиро Мори бага зэрэг алдартай сэтгүүлд нэлээд жижигхэн нийтлэл хэвлүүлжээ. Эрчим хүчний (ялангуяа хиймэл оюун ухаан, робот техникийн хувьд халуун орны газар биш) мөн ингэж хэлэв:

"Роботуудыг хүн болгон харагдуулах зорилгод хүрэхийн тулд бидний ойр дотны хүмүүс бидний ер бусын хөндий гэж нэрлэдэг хөндийд ирэх хүртэл нэмэгдэж байгааг би анзаарсан."

Анхны баримт нь Япон хэл дээр байсан ч дээрх хэллэгийг англи хэл дээр харуулсан болохыг анхаарна уу. Англи хэлээр орчуулагдсан хувилбарыг зохиогч хянаж, дараа нь хэвлүүлсэн IEEE Spectrum 2012 онд бичсэн бөгөөд зохиогчоор нь Масахиро Мориг нэрлэжээ. Цахим орчинд нээлттэй, чөлөөтэй байгаа тул та өөрөө уншиж болно. Энэ нь арав орчим минутын турш хурдан уншдаг бөгөөд техникийн хүнд нэр томъёо агуулаагүй болно.

1970 онд хэвлэгдсэн ийм хурц нийтлэл эцэстээ бүхэл бүтэн эрэн сурвалжлах талбарыг эхлүүлж, олон тооны судалгаа, төсөл, судалгааг эхлүүлж, заримдаа үүнийг нэвтрүүлсэн эсэх талаар маргаан дэгдээсэн нь сонирхолтой бөгөөд зарим талаараа гайхалтай юм. ер бусын хөндийн тухай ойлголт үнэхээр байдаг. Энэ нь сонирхол татахуйц, заримдаа үзэл бодлыг өөрчилдөг санаанууд нь асар их эргэлзэж, үг хэллэг, сүр жавхлангаар дүүргэгдсэн байх албагүй гэдгийг харуулж байна гэж би бодож байна. Товч санаа нь аливаа зүйлийн нүүрэн дээр харагдахаас ч илүү хүчтэй биш юм шиг байж болно.

Энэ нь таныг шинэ санаагаа хөгжүүлэхэд түлхэц болно гэдэгт би итгэлтэй байна. Энэ нь чихэрлэг, энгийн зүйл нь ээдрээтэй, ээдрээтэй байхаас илүү гайхалтай эсвэл заримдаа илүү байж болохыг ухаарсан.

Ер бусын хөндийн өдөөлт рүү буцаж орцгооё.

Та хүний ​​царайтай төстэй царайтай робот системтэй тааралддаг. Энэхүү робот нүүрийг олон тооны давталтаар зохион бүтээсэн гэж төсөөлөөд үз дээ. Хиймэл оюун ухаан хөгжүүлэгчид роботын толгойг эвлүүлж, нүүрний роботын хэсгийг хүний ​​нүүр царайтай илүү адилхан болгохыг аажмаар хичээж байна.

Тэдний анхны оролдлого дэндүү энгийн байсан. Роботын царай нь шинжлэх ухааны уран зөгнөлт кинонуудаас харж байсантай ижил төстэй бөгөөд араа, утас зэргийг харуулсан. Та төхөөрөмж рүү харахад робот гэдгийг шууд л мэднэ. Таны толгойд энэ талаар асуулт байхгүй.

AI хөгжүүлэгчдийн дараагийн оролдлого нь зарим хуванцар материалыг металл хэсгүүдэд ороосон байв. Хэдийгээр энэ нь арай илүү найрсаг харагдаж байгаа ч та энэ нь роботын толгой, робот нүүр гэдгийг шууд л мэдэж байгаа. Дахин хэлэхэд, илрүүлэхэд хялбар.

Эдгээр AI хөгжүүлэгчид үүнийг үргэлжлүүлэхээр шийдсэн. Тэд хуванцарыг сийлбэрлэж, арьсны өнгө өгдөг. Тэд мэнгэ, үс, өө сэв гэх мэт хүний ​​царайтай маш төстэй шинж чанаруудыг нэмдэг.

Өнгөцхөн харахад энэ бол хүний ​​нүүр царай гэж та итгэх болно. Хэрэв робот царайны зургийг авсан бөгөөд энэ зураг нь хүн болон робот нүүрийг дүрсэлсэн эсэхийг тодорхойлохыг хүсэх юм бол аль нь болохыг шууд хэлж чадахгүй байж магадгүй юм. Нөгөөтэйгүүр, хэрэв та төхөөрөмжийн хажууд зогсож байсан бол сайтар шалгаж үзэхэд энэ нь хүн биш, харин роботын зохион байгуулалттай болохыг олж мэдэх боломжтой.

Хамгийн гол нь таныг ойроос харах боломж олдохоос өмнө царайнд огт тохирохгүй зүйл байсан. Энэ нь хүний ​​царай шиг харагдаж байсан нь лавтай. Гэхдээ нэг зүйл буруу байсан. Тохиромжгүй харагдаж байгаа зүйл дээр хуруугаа тавихын тулд та дахин дахин анхааралтай ширтэх хэрэгтэй болсон. Магадгүй энэ нь жинхэнэ нүүр царай юм. Дараа нь дахин хэлэхэд энэ нь тийм биш байж магадгүй юм. Үүний дагуу таны оюун ухаан эргэлддэг.

Таны оюун санаанд нэг л аймшигт байдал орж ирдэг.

Өмнөх хоёр хувилбарыг харахад танд ийм айдас төрөөгүй. Та роботыг робот байсныг ямар ч эргэлзээгүйгээр олж мэдэх боломжтой. Зөвхөн хүүхэд л эдгээр хувилбаруудын аль нэг нь бодит хүн байсан гэдэгт хууртагдаж магадгүй юм.

Энэ сүүлийн хувилбар нь өөр байсан. Энэ нь хүний ​​царай шиг харагдахаар хараахан төгс болоогүй байсан. Бодит зүйлээс тийм ч хол байсангүй, энэ нь робот байх нь тодорхой байв. Нэг төрлийн шаварлаг газар хүрчихлээ.

Хөгжүүлэгчид судалгааныхаа хүчин чармайлтыг урагшлуулж, робот нүүр нь хүний ​​нүүрнээс бараг ялгагдахааргүй бүх зүйлийг нэгтгэсэн гэж бодъё. Та тэр зүйлийг хичнээн удаан ширтсэн ч хүн мөн эсэх нь эргэлзээтэй байдаг. Энэ бол робот нүүр гэж мэдээлэхэд та гайхаж байна. Гош, тэд үүнийг бодитой болгохын тулд маш сайн ажил хийсэн.

Та одоог хүртэл зөвхөн гадаад үзэмж дээр тулгуурлан роботын талыг авч үзсэнийг анхаарна уу.

Бид тэгшитгэлд хөдөлгөөн нэмж болно. Энэ нь роботыг робот болон хүн мөн эсэхийг ялгах нэмэлт хэмжээсийг нэмж өгдөг. Энэ сэдвээр тайлбарлах нь илүү төвөгтэй (хэдийгээр олон хэмжээсүүд зайлшгүй хоорондоо уялдаа холбоотой байдаг ч) тул би энэ хэлэлцүүлгийн явцад үүнийг олон хэмжээст асуудал гэж бүрэн дүүрэн тайлбарлахыг хүсэхгүй байна. Ямар ч тохиолдолд та робот царайг хараад зогсохгүй ам, нүд, хамар гэх мэт нүүрний онцлогийг хэрхэн хөдөлгөж байгааг харж чадна гэж төсөөлөөд үз дээ. Мэдээжийн хэрэг, энэ нь робот мөн эсэх талаар бэлэг өгөх боломжтой. робот эсвэл хүн.

Гайхамшигтай хөндийн тэргүүн эгнээнд байх ёстой нэг чухал зүйл бол анхны үзэл баримтлал нь хүний ​​ойр дотно байдлын үйлдлийг онцолсон явдал юм. Мэдэгдэж байгаа үзэгдэл бол роботын царай аажмаар сайжирч байгааг харахад таны ойр дотно байдал улам бүр нэмэгдэж байгаа бөгөөд энэ нь ер бусын хувилбар гарч ирэх хүртэл юм. Энэ үед таны ойр дотны мэдрэмж эрс буурч, ойр дотны ангал эсвэл хөндий рүү унана гэж хэлдэг.

Ямар нэг зүйл буруу байна гэж сэжиглэхэд хүргэсэн тодорхой хувилбарын хувьд таны ойр дотно байдал эрс буурсан гэж таамаглаж байна. Цаашилбал, онолын дагуу та жинхэнэ хүний ​​дүртэй бараг ижил дэвшилтэт хувилбартай тулгарах үед таны ойр дотно байдал огцом өсөх болно.

Амьдралын талууд жигд нэмэгдэж байна гэж таамаглах бидний ердийн хандлагатай холбоотой зохиолч юу гэж хэлснийг эндээс үзнэ үү: “Математикийн нэр томъёо монотон нэмэгдэж буй функц функц байгаа харилцааг дүрсэлдэг y = ƒ(x) хувьсагчтай хамт тасралтгүй нэмэгддэг x. Жишээлбэл, хүчин чармайлт гэх мэт x өсөх, орлого y ихсэх, эсвэл машины хурдасгуурыг дарахад машин илүү хурдан хөдөлдөг. Энэ төрлийн харилцаа нь хаа сайгүй байдаг бөгөөд маш амархан ойлгогддог. Үнэн хэрэгтээ ийм нэгэн хэвийн өсөлттэй үйл ажиллагаа нь өдөр тутмын амьдралын ихэнх үзэгдлийг хамардаг тул хүмүүс бүх харилцааг төлөөлдөг гэсэн төөрөгдөлд автдаг. Мөн энэ худал сэтгэгдлийг гэрчлэх нэг зүйл бол олон хүмүүс ухрах нь ямар үр дүнтэй болохыг ойлгохгүйгээр тууштай шахаж амьдралынхаа туршид тэмцдэг явдал юм. Ийм учраас хүмүүс энэ функцийг илэрхийлж чадахгүй ямар нэгэн үзэгдэлтэй тулгарахдаа ихэвчлэн гайхдаг." Үүнийг иш татсан болно IEEE Spectrum орчуулсан цаас.

Үргэлж өсдөг гэсэн энэ бараг бүх нийтийн таамаглал нь ямар нэг зүйл буруутай тулгарах үед хүчингүй болно. Аймшигтай, сэжигтэй байдал нь таны сэгсрэхийг сонгосон робот гар гэх мэт харьцангүй огцом бөгөөд огцом буурахад хүргэдэг: "Ийм зүйл тохиолдоход бид мэдрэмжээ алддаг. ойр дотно, гар нь ер бусын болдог. Математикийн хувьд үүнийг сөрөг утгаар илэрхийлж болно."

Хэрэв та ер бусын хөндийн үзэгдэл байдаг гэсэн таамаглалыг хүлээн зөвшөөрвөл ер бусын хөндий байдаг гэдгийг мэдэх нь танд ямар ашигтай юм бэ гэж бодож байгаа гэдэгт би итгэлтэй байна.

Энэ бол бүх цаг үеийн сонгодог "Тэгвэл яах вэ?" практик байдлын туршилт.

Маш олон хүмүүс ер бусын хөндийн талаар юу хийх ёстой, юу хийж болох талаар олон тайлбарыг гаргаж ирсэн. Олон тонн санал бодол байдаг. Би үүний заримыг удахгүй хөндөх болно.

Энэ хооронд Масахиро Мори хэлэхдээ: "Бид ер бусын хөндийд унахгүй роботууд болон хиймэл гаруудыг зохион бүтээж, бүтээнэ гэж найдаж байна. Тиймээс, хоёр дахь оргилд хүрэхийн тулд хүнтэй ижил төстэй байдлын зэрэглэлээ нэмэгдүүлэх оролдлого нь эрсдэлтэй байдаг тул би дизайнеруудад эхний оргилыг зорилгоо болгон авахыг зөвлөж байна, энэ нь хүний ​​дунд зэргийн төстэй байдал, нилээд төстэй мэдрэмжийг бий болгодог. . Үнэн хэрэгтээ, хүн төрөлхтний бус дизайныг санаатайгаар хэрэгжүүлэх замаар аюулгүй байдлын түвшинг бий болгох боломжтой гэж би таамаглаж байна. Би дизайнеруудаас үүнийг тунгаан бодохыг хүсч байна."

Ер бусын хөндийн талаар юу хийх тухай арван хоёр энгийн өмдний дүрэм журмын талаар товч өгүүлэх нь AI хөгжүүлэгчдийн хувьд дараах байдалтай байна.

1) Гайхамшигтай хөндийг мэдэж, үүний дагуу хөлийнхөө хуруунд байгаарай

2) Та хиймэл оюун ухаандаа аль болох хүний ​​ойр дотно байхыг хүсч байгаа байх

3) Хэрэв таны хиймэл оюун ухаан ер бусын хөндийд унавал хүний ​​ойр дотны харьцаа алдагдахад бэлэн байгаарай.

4) Хиймэл оюун ухаанаа ингэж зохион бүтээх замаар ер бусын хөндийгөөс зайлсхийхийг эрэлхийл

5) Гайхамшигтай хөндийд хүрэхгүй зорилготой байх нь хүндэтгэлтэй зүйл юм

6) Гайхамшигтай хөндийн зах хүртэл хазай, гэхдээ хадны дээгүүр бүү унаарай

7) Гайхамшигтай хөндийгөөс цааш явахыг бүү хий

8) Та ер бусын хөндийгөөр үсрэх боломжтой

9) Ямар ч байсан хөндий рүү унаж магадгүй тул үсрэлтэнд бүү санаа зов

10) Гайхамшигтай хөндийг даван туулах замаар хүний ​​хамгийн их ойр дотно харилцаанд хүрэх нь гарцаагүй.

11) Гэсэн хэдий ч, ер бусын хөндийгөөс өмнө хангалттай бөгөөд тохиромжтой ойр дотно байдал олддог.

12) Гайхамшигтай хөндийг байнга санаж, үүнийг таны бодлоос бүү холдуул.

Эдгээр хэдэн арван зүйл бол ер бусын хөндийн тухай мэдэх гол чулуу эсвэл зангуу цэг гэж үзэж болох ерөнхий зарлиг юм. Цөөн хэдэн арван зүйлд дурдаагүй өөр чухал зүйлүүд байгааг би шууд хүлээн зөвшөөрөх болно. Тодорхойлсон зүйл бүрийн хувьд санал зөрөлдөөн гарах нь гарцаагүй бөгөөд хэлсэн зүйл бүрийн талаар урт удаан ширүүн мэтгэлцээн өрнөж болзошгүйг би мөн хүлээн зөвшөөрөх болно.

Түүгээр ч зогсохгүй зарим нь арван хоёр оноог эхлээд худал хуурмаг дээр үндэслэсэн учраас хогийн зүйл гэж хэлэх байх. Ер нь ер бусын хөндий гэж байхгүй шүү дээ гэж маргалдана. Энэ бүхэн нь зүгээр л доромжлол, зохиомлоор зохиомол арга хэмжээ бөгөөд зөвхөн сул дорой сэтгэхүйг татахын тулд гунигтай ханддаг (өө, үнэхээр өвтгөж байна!). Гайхамшигтай хөндийд анхаарал хандуулах нь хий дэмий амьсгалах явдал бөгөөд хэн нэгэн ирж асуудлын голд онолын хурц модон гадас тавих хэрэгтэй (зарим судлаачид үүнийг хийхийг оролдсон).

Хэлэлцүүлгийн үүднээс урсгалаараа явж, ер бусын хөндий байдаг бөгөөд энэ нь миний өнөөг хүртэл заасан зүйлтэй ерөнхийдөө таарч байна гэж бодъё. Гайхамшигтай хөндийн тухай ойлголттой санал нийлэхгүй байгаа хүмүүс шүдээ хавиран, оюуны уур хилэнгээ бадрааж, буцалж (уучлаарай) номоо таслах эсвэл үргэлжлүүлэн унших боломжтой.

Ёс суртахууны хиймэл оюун ухаан болон ёс суртахууны хиймэл оюун ухааныг зохион бүтээх, нэвтрүүлэхэд анхаарах зүйлс эндээс харагдана. Дашрамд хэлэхэд, хиймэл оюун ухааны ёс зүйн талаарх миний үргэлжилсэн, гүнзгий судалгааг эндээс үзнэ үү. энэ линкийг эндээс авна уу болон энэ линкийг эндээс авна уу, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Ёс суртахуунтай хиймэл оюун ухаантай хүмүүсийн хувьд ер бусын хөндий бол үнэхээр хайр дурлал, үзэн ядалт юм.

Эхлээд заримд нь суурь хэрэгтэй байсан. Хиймэл оюун ухаантай холбоотой хамгийн ёс суртахууны эргэлзээнүүдийн нэг бол хиймэл оюун ухааны системийг мэдрэмжтэй гэж хүмүүс хууран мэхлэх явдал юм. Мэдрэмжтэй болоход ойрхон байгаа хиймэл оюун ухаан өнөө үед байхгүй гэдгийг анхаарна уу. Энэ нь яг одоо болоогүй байна. Энэхүү хиймэл оюун ухаан эсвэл хиймэл оюун ухаан нь мэдрэмжтэй эсвэл тийм гэж үзэхэд хангалттай ойр гэдгийг тунхагласан тасралтгүй, бүдүүлэг гарчигийг үл харгалзан миний "учирхалтай" мэдэгдлийг хийж байна. Маларкей. Бид хиймэл оюун ухаанд хандаагүй байна.

Бид тийшээ яаж хүрэхээ мэдэхгүй байна. Энэ нь болох эсэхийг бид мэдэхгүй. AI мэдрэмж бол үнэ цэнэтэй мөрөөдөл, хүсэл тэмүүлэл боловч буугаа үсэрч, бид түүндээ хүрэхийн ирмэг дээр байна гэж битгий бодоорой.

Мэдээжийн хэрэг, хэрэв бид хиймэл оюун ухааныг ямар нэгэн байдлаар устгаж чадвал дизайн эсвэл санамсаргүй байдлаар хийвэл оршин тогтнох эрсдэлтэй тулгарах болно гэдгийг олон хүн хатуу анхааруулж байна. Ингэж бодохоор хиймэл оюун ухааныг эрэлхийлэх нь тийм ч үнэ цэнэтэй зүйл биш байж магадгүй юм. Эрсдэл нь энэ мэдрэмжтэй хиймэл оюун ухаан нь хүмүүсийг дэргэд нь байх нь үнэ цэнэтэй зүйл биш гэдгийг тодорхойлж магадгүй юм. Бид хорхой шиг дарагдаж магадгүй. Эсвэл хиймэл оюун ухааны боол болох. Энэ нь хиймэл оюун ухаан илт сонголт хийснээр тохиолдож болох юм, эсвэл хиймэл оюун ухаан нь бидний өөрсдийн чадваргүй байдлаасаа болж биднийг устгадаг бидний сүйрлийн машин болж хувирч магадгүй юм. Хиймэл оюун ухаан, өвөрмөц байдлын талаарх сэтгэл түгшээсэн үр дагаврын талаархи миний мэдээллийг үзнэ үү холбоос энд байна.

Хиймэл оюун ухаанд санаа зовоосон чухал асуудал бол хиймэл оюун ухааныг хөгжүүлэгчид болон хиймэл оюун ухааныг хөгжүүлэгчид заримдаа хиймэл оюун ухаан нь мэдрэмжтэй гэж хүмүүсийг сорж байдаг явдал юм. Хиймэл оюун ухаан нь робот хэлбэрээр эсвэл харилцан ярианы харилцан үйлчлэлээр өөрийгөө хэрхэн харуулах арга барил нь хүмүүсийг хиймэл оюун ухаантай гэж таамаглахад хүргэдэг. Энэ нь эргээд таныг болзошгүй бохир зам руу хөтөлнө.

Хэрэв та хиймэл оюун ухааны системийг мэдрэмжтэй гэж бодсон сэтгэцийн урхинд унавал та түүнд найдах бөгөөд амьтдын хийдэг зүйлийг хийх болно. Гэвч өнөөгийн хиймэл оюун ухаанд хүнтэй төстэй чанарын нийтлэг ойлголт хараахан гараагүй байна. Одоогийн байдлаар бидний мэдэрч буй хиймэл оюун ухаан нь хүнийхтэй төстэй чадавхийн хувьд маш хэврэг, гүехэн байдаг. AI системийг мэдрэмжтэй гэдэгт итгэснээр та зарим нэг таагүй, аюултай усанд орж болно.

Энэ нь ер бусын хөндийтэй хэрхэн холбогддог вэ?

Энэ бол хэлэлцээ.

Ер бусын хөндий нь хиймэл оюун ухааны систем эсвэл робот хүнтэй төстэй найрлагад ойртох тусам хүний ​​ойр дотно байдал аажмаар өсөх болно гэдгийг сануулъя. Хиймэл оюун ухааны систем маш ойрхон, гэхдээ тийм ч сайн биш байх цэгт ойртож байгаа энэ мөчид бид ямар нэг зүйл буруу байна гэсэн айдас төрүүлдэг. Тэр хүртэл бид хиймэл оюун ухаан нь хүн биш гэдгийг мэдэж байсан. Одоо бид итгэлгүй байна. Бидний хүний ​​ойр дотны зан чанар буурдаг. Хиймэл оюун ухаан эсвэл робот нь хүнийхтэй адил чадавхийг бүрэн үнэмшилтэй болсны дараа л бид төхөөрөмжтэй ижил төстэй байдлыг олж авдаг.

AI хөгжүүлэгчид энэ зүрх сэтгэлийг хүлээж авах болно санаатайгаар Хиймэл оюун ухаанаа ер бусын хөндийд оруулахгүй байхыг хичээж, ер бусын ангал руу унахын өмнөхөн хиймэл оюун ухааны онцлог шинж чанараараа зогсохыг зорь (Масахиро Мори үүнийг бас онцолсон гэдгийг санаарай). Хөгжүүлэгчид хиймэл оюун ухаан нь мэдрэх чадвар муутай хиймэл оюун ухаан бөгөөд хүн биш, мөн адил тийм гэдгийг илүү тодорхой болгохын тулд олон тооны мэдээ баримтууд байгаа эсэхийг шалгаснаар үүнийг хийх болно.

AI-ийн ёс зүйчид энэхүү чин сэтгэлийн хүчин чармайлтыг ерөнхийд нь сайшаах болно.

Үндэслэл нь ойлгомжтой. Ийм мэдээлэлтэй, AI хөгжүүлэгчид хиймэл оюун ухааны систем нь хүмүүсийг төөрөгдүүлж, хиймэл оюун ухаанд хүнтэй төстэй байгууламжуудыг буруу хамааруулахгүй байхыг хичээж байна. Энэ бол гарцаагүй сайн мэдээ. Хөгжүүлэгчид ер бусын хөндий рүү шумбахаас сэргийлэхийн тулд хиймэл оюун ухааныг санаатайгаар бүтээх болно. Хиймэл оюун ухаан нь мэдрэмжгүй гэдгийг хүмүүс шууд ойлгох болно.

AI хөгжүүлэгчдэд ийм хандлагыг нэвтрүүлэхийг оролдох нь тийм ч хялбар биш юм. Үнэн хэрэгтээ энэ нь тэдний ердийн зөн совин, жолоодох хүсэл эрмэлзэлд сөргөөр нөлөөлж болзошгүй юм.

Хиймэл оюун ухаан хөгжүүлэгчид болон техникчдийг ерөнхийд нь зорилгодоо шамддаг гэсэн олон мэдэгдэл байдаг. Тэд зорилгоо олж хардаг бөгөөд ихэнхдээ түүндээ сохроор маш их хүсэл тэмүүллээр тэмүүлдэг. Зогсож, сарнай үнэрлэх цаг алга. Тэмцээнд гарлаа, бид явна. Хиймэл оюун ухааны талбарт нормативын зорилго нь хиймэл оюун ухаан нь ухаалагаар тэнцүү байх боломжтой тул хүнээс ялгагдахааргүй төгс төгөлдөр хиймэл оюун ухаан байх болно. Гэхдээ бид тэнд хараахан болоогүй байна. Иймээс ер бусын хөндий нь хоёрдогч зорилгыг бий болгож, өөрөөр хэлбэл хачирхалтай хөндийн өмнө буух бөгөөд энэ нь хүлээн зөвшөөрөгдөхүйц зорилго болдог. Мэдээжийн хэрэг, энэ нь алтан бөгж биш, гэхдээ энэ "хоёрдогч" шагнал зүгээр байна, маш их баярлалаа, та үүгээрээ бахархаж болно гэсэн санаа юм.

Бид зорилго тэмүүлэх хамгийн дээд амбицыг өөрчилж, зөв ​​зүйл хийх логик үндэслэлтэй үндэслэл болгон ашигласан.

Хөөе!

AI ёс зүйд ялалт байгуул.

Гэхдээ хоромхон зуур хүлээгээрэй, хорлон сүйтгэгч анхааруулга, бид бас нэг зүйлийг анхаарч үзэх хэрэгтэй.

Одоо эдгээр ухаалаг хиймэл оюун ухаан хөгжүүлэгчид ер бусын хөндийн талаар мэддэг болсон тул тэд оюун ухаан, техникийн ур чадвараа ангал руу зориудаар үсрэх рүү чиглүүлж магадгүй ч гэсэн хууран мэхлэх маягтай үүнийг хийх болно. Хөгжүүлэгчид үүнийг худал гэдгийг мэдэж байсан ч хиймэл оюун ухааныг бүхэлд нь хүн шиг харагдуулна.

Хуурамч сэтгэлгээ нь ингэж явдаг. Таны AI систем малгайгаа тонгойлгож, хүмүүсийг айдас хүйдэстэй болгохыг бүү зөвшөөр. Хиймэл оюун ухаан нь хүний ​​​​хувьд чадваргүй гэсэн санаа, санааг өгч болзошгүй талыг хас. Хиймэл оюун ухаан нь хүний ​​​​хувьд чадваргүй бөгөөд энэ нь хиймэл оюун ухаантай харьцдаг эсвэл түүнээс хамааралтай хүмүүсээс энэ үнэнийг нуун дарагдуулах явдал гэдгийг нууцаар ухамсарлаж, өршөөлгүйгээр үүнийг хий.

Ямар чөтгөрийн төлөвлөгөө вэ.

Хачирхалтай нь, ер бусын хөндий нь хиймэл оюун ухаан хөгжүүлэгчдэд үнэхээр хүмүүсийг хуурахыг хүсч байвал ангалаас зугтаж чадахуйц ухаантай байх ёстой гэсэн сэрэмжлүүлэг байж болох юм. Тэд хиймэл оюун ухаанаа бүрэн эзэмшсэнээр биш, харин хиймэл оюун ухааныг хүнийх шиг төөрөгдүүлэхийн тулд утаа, толь босгож байгаа юм. Хэрэв хиймэл оюун ухааны хөгжүүлэгчид энэ ер бусын хөндий байдаг гэдгийг ойлгоогүй бол тэд ерөнхийдөө түүнд унах байсан. Энэ нь хүн төрөлхтний хувьд сайн хэрэг, учир нь хүмүүс хиймэл оюун ухааны өнөөгийн чанарт хэт найдахгүйгээр хиймэл оюун ухаантай ойр дотно харилцаагаа алдах болно.

Харамсалтай нь урхи байгаа гэдгийг мэдсэнээр түүнийг тойрон гарахыг хүссэн хиймэл оюун ухаан хөгжүүлэгчид үүнийг хийх хор хөнөөлтэй арга замыг олох болно.

Ёс суртахууны хиймэл оюун ухааны зарчмуудын эсрэг оноо аваарай.

Энэ нь ер бусын хөндийн тухай хиймэл оюун ухааны ёс зүйчдэд хайр ба үзэн ядалтын харилцааг хэрхэн бий болгож байгааг та харж байна уу?

Хийвэл хараал иддэг, үгүй ​​бол хараал идэг.

Энэ бол ер бусын хөндийн талаар бага зэрэг өндөр хөмсөгний үзлэг байсныг би ойлгож байгаа бөгөөд та өдөр тутмын жишээг авахыг хүсч магадгүй юм. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой машинууд гарч ирсэн нь ер бусын хөндийн талаар ямар нэгэн зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь бидэнд юу хийх ёстой вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулбал, жинхэнэ өөрөө жолооддог автомашинууд бол хиймэл оюун ухаан нь машиныг өөрөө дангаараа жолооддог бөгөөд жолоодлогын үеэр хүний ​​туслалцаа үзүүлдэггүй.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшний өөрөө жолоодох жинхэнэ автомашин одоогоор гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, хэр удаан хүрэх нь хараахан гараагүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машинууд ба ер бусын хөндий

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний хэлэх гэж буй зүйлийн үндэс суурь болох хангалттай хэмжээний сэрэмжлүүлэг өгдөг гэдэгт би итгэж байна.

Бид одоо өөрөө жолоодлоготой машинууд болон ер бусын хөндийг хамарсан хиймэл оюун ухааны ёс зүйн асуултуудад гүн гүнзгий шумбахад бэлэн байна.

Энэ асуудалтай холбоотой дөрвөн асуудлыг энд авч үзэх болно.

1. Өөрийгөө жолооддог машины ерөнхий дүр төрх

2. Автомат жолоодлоготой машин хаашаа “харж” байна вэ гэсэн асуулт

3. Өөрийгөө жолооддог автомашины хиймэл оюун ухаан жолоодох үйлдэл

4. Өөрийгөө жолооддог машинд хүрэх хэрэгсэл болгон жолооддог роботууд

Нэмэлт талуудыг мөн багтаасан боловч орон зайн хязгаарлалтын хувьд эдгээр дөрвөн сэдэв нь хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинтай холбоотой ер бусын хөндийн даацыг гэрэлтүүлэхэд хангалттай байх болно.

1. Өөрийгөө жолооддог машинуудын ерөнхий дүр төрх

Та өөрөө жолоодлоготой машинуудын өнөөдрийн туршилтын зураг эсвэл видеог үзсэн гэдэгт итгэлтэй байна. Тиймээс ихэнх тээврийн хэрэгсэл нь нэмэлт тусгай тоног төхөөрөмжөөр тоноглогдсон ердийн харагдахуйц машинууд байдгийг та анзаарсан байх. Жишээлбэл, олон тооны электрон мэдрэгч бүхий дээвэр дээрх тавиур байж болно. Мэдрэгчид заримдаа видео камер, радарын нэгж, LIDAR төхөөрөмж, хэт авианы мэдрэгч гэх мэт зүйлсийг багтаадаг.

Футурист загварууд нь бид ердийн харагдах машинаас татгалзаж, оронд нь дотоод болон гадна талын автомашинуудыг илүү гөлгөр харагдахуйц бие даасан тээврийн хэрэгсэл болгон өөрчлөхийг санал болгодог. Яг одоо ердийн машиныг ашиглах нь илүү хялбар бөгөөд уламжлалт бус харагдах машинтай зэрэгцэн хүч чармайлт гаргахгүй байх нь илүү хялбар юм (энэ ерөнхий үзэл баримтлалд зарим үл хамаарах зүйлүүд байдаг, миний сурвалжлагыг эндээс үзнэ үү. холбоос энд байна).

Яг одоо гол зүйл бол хэрэв та зам дээр жолоодож яваад ойролцоох өөрөө жолоодлоготой машинтай тааралдвал өөрөө жолоодлоготой машинд суурилуулсан мэдрэгчийг анзаарах төдийд л өөрөө жолооддог машин гэдгийг шууд анзаарч чадна. Энэ бол хурдан харааны бэлэг юм. Мэдээжийн хэрэг, та өөрөө жолооддог гэдгийг сайн мэдэхгүй, учир нь энэ үед жолоодлогын удирдлага ихэвчлэн бүрэн бүтэн хэвээр байгаа бөгөөд хүний ​​нөөц жолооч жолооны ард байж магадгүй юм.

Өөрийгөө жолооддог машинууд бие бялдрын хувьд бусдаас ялгарч, ойролцоох хүний ​​жолоодлоготой машинд сууж явсан жолооч нар, мөн ойролцоох явган зорчигчдод шууд харагдахуйц байх нь маш ашигтай гэдгийг та нэг талаас нь харж болно. Ойролцоох автомат жолоодлоготой машин явж байгааг ухаарах нь таныг сэрэмжтэй байлгахад хэрэгтэй мэдээлэл байж болох бөгөөд энэ нь таныг хиймэл оюун ухаан жолоодож байгаа эсвэл жолоодож байгаа эсэхийг сонор сэрэмжтэй байлгахад түлхэц болно.

Өөрийгөө жолооддог машинууд энгийн хүний ​​жолоодлоготой машинтай адилхан байсан гэж бодъё. Энэ нь дор хаяж хоёр аргаар хэрэгжих боломжтой юм. Нэгдүгээрт, мэдрэгч нь энгийн харааны үзлэгт тийм ч тод харагдахгүй байхаар нуугдаж эсвэл хэлбэртэй байж болно. Хоёрдугаарт, энгийн хүн жолооддог машинууд зэрэг бүх машинууд аажмаар ижил мэдрэгчээр тоноглогдсон байж болох юм, тэр ч байтугай машин нь ихэвчлэн хүн жолооддог машин хэвээр байх болно. Миний дэлгэрэнгүй мэдээллийг эндээс үзнэ үү энэ линкийг эндээс авна уу.

Хэрэв та өөрөө жолоодлоготой машинууд нь энгийн хүний ​​жолоодлоготой машинтай адилхан байж болох уу, мөн байх ёстой юу гэдгийг сайтар тунгаан бодож үзвэл энэ шөлөнд ер бусын хөндий нуугдаж байж магадгүй гэсэн бодол төрж магадгүй юм.

Өөрийгөө жолооддог машин шиг илт харагдаж байгаа машинуудыг ер бусын хөндийн дутуухан уулзварт байдаг гэж та харж байна. Үндсэндээ энэ нь робот эсвэл робот төрлийн систем гэдгийг та "мэддэг". Энэ бол та бараг тэр даруйдаа гарч чадах шүүлт юм.

Өөрийгөө жолооддог машинууд хүний ​​жолоодлоготой машинуудтай адилхан харагдах үед энэ нь автомат жолоодлоготой машинууд робот шиг харагдах байдлаараа ер бусын хөндийгөөр өнгөрч байгааг илтгэж магадгүй юм. Биднийг ер бусын хөндийд хүргэдэг эдгээр хоёр биет байдлын хооронд дунд газар байгаа болов уу?

Магадгүй та гудамжаар явж буй өөрөө жолоодлоготой машиныг олж харсан бөгөөд энэ нь өөрөө өөрийгөө жолооддог машин юм шиг санагдаж магадгүй, нөгөө талаас гадаад төрх нь хатуу бие даасан, хүний ​​жолоодлоготой ч биш юм. Өөрийгөө жолооддог машин нь одоо аймшигтай эсвэл эвгүй дүр төрхтэй болсон гэж та маргаж болно.

Автомашин жолоодлоготой машин ер бусын хөндийд живсэн бололтой.

Үүнийг хэлэхэд, хүн бүр энэ ангилалтай санал нийлэхгүй. Зарим нь гадаад төрх нь ер бусын хөндийтэй ямар ч холбоогүй гэж үздэг. Мэдээжийн хэрэг зарим хүмүүс ер бусын хөндий гэж бодитойгоор мэддэг зүйл байдаггүй гэж баталдаг.

Өмнө дурьдсанчлан энэ талаар та өөрөө шийдвэр гаргах боломжтой.

2. Өөрийгөө жолооддог машин хаашаа харж байна вэ гэсэн асуулт

Өөрийгөө жолооддог автомашины талаар олон хүмүүсийн санаа зовоосон асуудал бол жолоочийн суудалд хүн жолоочгүй байдаг тул "жолооч" машин жолоодож байхдаа хаашаа харж байгааг ойлгоход хэцүү байдаг.

Та ихэвчлэн хүний ​​​​жолоочуудыг хаашаа харж байгааг нь тагнахаар хардаг. Жишээлбэл, та явган хүний ​​гарц дээр явган зорчигч байж болох бөгөөд машин гарам руу ойртож байна. Та жолоочийн суудалд сууж буй хүн рүү анхааралтай харж, толгой нь хаашаа эргэж, нүд нь хаашаа харж байгааг ойлгохыг хичээ. Хэрэв та хүний ​​жолооч таныг харсан гэж бодож байвал гудамжаар гарахад илүү таатай байх болно. Үүний эсрэгээр, хэрэв хүний ​​жолооч таныг хараагүй бол та гарцаар гарахаас санаа зовж байна.

Зарим хотод эдгээр тал дээр муур, хулгана гамбит байдаг. Тухайн хотын соёлын тодорхой хэм хэмжээ нь жолоочтой харц тулгарвал жолооч "хож" байх ба жолооны нөхцөл хууль ёсны дагуу явагдахаас үл хамааран цааш явах эрхтэй мэт санагдах болно. Бусад хотуудад энэ нь эсрэгээрээ байж болох юм, тухайлбал, соёлын хэм хэмжээ нь харцаар харьцахад явган зорчигч "ялах", жолооч нь явган хүний ​​үйлдлийг хойшлуулах ёстой гэж үздэг.

Манай хот, олон нийтийн дунд машинууд харьцангуй удаан үргэлжилсэн үед бид энэ заншилтай болсон юм шиг санагддаг. Өөрөө жолоодлоготой автомашин бий болсонтой холбоотой асуудал бол жолоочийн суудалд хүний ​​жолооч байхгүй, улмаар автомашины жолоочийн толгой, нүдийг ихэвчлэн жолоодох хүсэл эрмэлзлийн соёлын үзүүлэлт болгон ашигладаг явган зорчигч эсвэл ойр орчмын хүний ​​жолооч байхгүй болсон явдал юм. азгүй.

Автомашин үйлдвэрлэгчид болон өөрөө жолоодлоготой машин бүтээгчид энэхүү шинээр гарч ирж буй асуудлыг маш сайн мэддэг. Санал болгож буй нэг шийдэл нь автомат жолоодлоготой автомашины гэрлийг анивчуулах эсвэл дуут дохиогоо дарах явдал юм. Өөр нэг ойлголт бол автомат жолоодлоготой машин нь чанга яригчтай байж болох бөгөөд ойролцоох хүмүүст хиймэл оюун ухаан жолоодох системийн "зорилго"-ыг хэлж өгдөг. Эдгээр санаанууд тус бүр нь мэдэгдэхүйц сул талуудтай байдаг.

Гэсэн хэдий ч өөр санал нь эхлээд инээдтэй гэж үзэж болох зүйл хийхийг шаарддаг. Энэхүү санал нь бие даасан тээврийн хэрэгслийн гадна талд нүдний алим шиг бөмбөрцөг байрлуулахаас бүрдэнэ. Эдгээр бөмбөрцөг нь нааш цааш эргэдэг мэт хүний ​​нүд шиг харагдах бөгөөд энэ нь хиймэл оюун ухаан таныг "чамайг харсан" гэсэн шууд дохиог өгөх болно (та үүнийг өөрийн чиглэл рүү харсан нүдний алимаар тайлбарлах болно). Би энэ аргад дүн шинжилгээ хийсэн холбоос энд байна.

Замын хажуугаар өөрөө жолоодлоготой машин ирж, бүрээс эсвэл дээвэр дээр суурилуулсан том хэмжээтэй хачирхалтай нүдний алимыг хараад та ямар хариу үйлдэл үзүүлэх вэ?

Та үүнийг аймшигтай, магадгүй аймшигтай гэж бодож магадгүй гэж бодож байна.

Өөрийгөө жолооддог машин ер бусын хөндийд байгаа нь айдас төрүүлдэг гэж зарим хүмүүс үздэг. Бусад нь энэ нь ер бусын хөндийтэй ямар ч холбоогүй гэж эрс маргах болно. Ийм шинжээчдийн дунд зарим нь ер бусын хөндийд (өөрөөр хэлбэл, ер бусын хөндий үргэлж аймшигт байдлыг бий болгодог юм шиг санагддаг, гэхдээ бүх аймшгийг зөвхөн ер бусын хөндийгөөр үүсгэдэггүй) аймшигт байдал байдаг гэж хэлэх байх. Нөгөө өнцөг нь бөмбөрцөгийг нүд багатай, илүү робот мэт харагдуулахаар зохион бүтээж болох юм, эсвэл бид бүгдээрээ эдгээр бөмбөрцгийн харагдах байдлыг хүлээн зөвшөөрч, анхны гайхшралыг арилгах болно.

3. Өөрийгөө жолооддог машинуудын хиймэл оюун ухаан жолоодох үйлдэл

Өөрийгөө жолооддог автомашины туршилтуудын ихэнх нь одоо байгаа хиймэл оюун ухаантай жолоодлогын системүүд нь нэлээд зөөлөн, зарим талаараа хуулийн дагуу жолоодохоор програмчлагдсан байдаг. AI жолоодлогын систем нь ихэвчлэн автомат жолоодлоготой машиныг Зогсоолын тэмдэг дээр бүрэн зогсоодог. Хиймэл оюун ухаантай жолоодлогын систем нь замын хөдөлгөөний дохио улаан болох гэж байгаа үед уулзвараар зоригтой гүйдэггүй. Эдгээр замбараагүй жолоодлого нь хүний ​​жолооч нарын аймаг юм.

Нэг ёсондоо өөрийгөө жолооддог машин бол өөрөө жолооддог машин гэдгийг харуулж буй жолоодлогын хэв маягаар нь та бараг таамаглаж болно. Автономит машин нь хүний ​​жолоодлоготой ердийн машин мэт харагдаж байсан ч та жолоодлогын үйлдлийг ажиглаж, магадгүй үүнийг AI системээр жолоодож байгаа гэж логикоор дүгнэж болно.

Зарим хүмүүс бид хиймэл оюун ухаантай жолоодлогын системийг хүний ​​жолоочийн зан үйлтэй илүү адилхан болгох хэрэгтэй гэж үзэж байгаа бөгөөд ингэснээр тэдгээр нь жолоодлогын норматив арга барилд үр дүнтэй нийцэх болно. Та үүнийг галтай галтай тэмцэх гэж ойлгож магадгүй гэж бодож байна.

Үүнийг хийх нь утга учиртай юу?

Илэн далангүй үл итгэгчид, шүүмжлэгчид энэ санааг жигшин зэвүүцдэг гэдгийг анхаар. Хиймэл оюун ухаан жолоодох системийг зөв, болгоомжтой жолоодохыг бид хүсч байна гэж тэд хатуу маргах болно. Алдаатай жолооч нар шиг программчлагдсан зам дээр сая сая өөрөө жолооддог машин нэмэх нь асар том хар дарсан зүүд мэт санагдана. Би энэ маргаантай саналыг дээр хэлэлцсэн холбоос энд байна.

Гайхамшигтай хөндийг ашиглан бэрхшээлийг дахин шийдье.

AI жолоодлогын систем нь жолоодлогын үйлдлээрээ хатуу хууль ёсных бол энэ нь робот систем байх магадлалтайг илтгэх дохио байж магадгүй (хүмүүсийн жолооч нар үүнийг хүлээн зөвшөөрч байгаа хэдий ч өнөөгийн ертөнцөд тэд маш цөөхөн мэт санагддаг). Хэрэв хиймэл оюун ухаантай жолоодлогын систем нь хүний ​​жолооч шиг хачин жолоодох юм бол энэ нь ер бусын хөндийгөөр үсрэх үү эсвэл ер бусын хөндий рүү унах уу?

Үүнийг сайтар тунгаан бод.

4. Өөрийгөө жолооддог машинтай болохын тулд жолооддог роботууд

Хамрах хүрээний энэ сүүлчийн зүйл бол эдгээр дөрвийн хамгийн гайхалтай нь юм.

Зарим хиймэл оюун ухаан хөгжүүлэгчид машин жолоодох робот бүтээхээр оролдож байгааг та огт мэдэхгүй байж магадгүй. Робот хөл, робот гар нь янз бүрийн талаараа хүн шиг харагдах хандлагатай байдаг. Хүн жолоодлоготой ямар ч энгийн машиныг өөрөө жолооддог машин болгохыг хүсвэл та энэхүү тусгай хиймэл оюун ухаантай жолоодлогын роботыг машиныхаа жолоочийн суудалд суулгахад л хангалттай. Энэ ойлголтын талаарх миний дүн шинжилгээг эндээс үзнэ үү холбоос энд байна.

Бид яагаад робот жолоодохыг хүсдэг вэ?

Ийм роботын гоо үзэсгэлэн нь хүний ​​жолоодлоготой өнөөгийн бүх машинууд нэг шөнийн дотор өөрөө жолооддог машин болж хувирдагт оршино. Та зүгээр л жолоодох робот худалдаж авах, түрээслэх эсвэл ямар нэгэн байдлаар өөртөө авах боломжтой. Та жолооны аялалд явахдаа роботоо жолоочийн суудалд суулгадаг. Робот таныг зорьсон газартаа хүргэж өгдөг. Хэрэв та хүний ​​жолоодлогод шилжихийг хүсвэл роботыг машинаас салгаж, дараа нь ашиглахын тулд ачааны тээшинд хийж болно.

Өнөөдөр АНУ-д 250 сая орчим энгийн автомашин байдаг. Автомат жолоодлоготой машин бий болсноор эдгээр нь хог хаягдал болно гэж зарим хүмүүс үздэг. Эдгээр энгийн машинуудыг хаяхын оронд өөрөө жолооддог машин болгохыг хичээж болох ч энэ нь нэлээд үнэтэй санаа байж магадгүй юм. Илүү ухаалаг мэт санагдах арга бол жолоодлогын роботуудыг ашиглах боломжтой болгох явдал юм.

Хэрэв та ойр орчмынхоо гудамжаар ердийн машин ирж явааг хараад жолооны ард робот сууж байвал та ямар хариу үйлдэл үзүүлэх вэ?

Аймшигтай байх магадлалтай.

Маргааштай нэг нотолгоо бол энэхүү аймшигт байдал нь ердийн машин жолоодож буй робот алдартай эсвэл алдар хүндгүй ер бусын хөндий рүү шумбаж байгаатай холбоотой юм.

Дүгнэлт

Ёс суртахууны хиймэл оюун ухааны үүднээс авч үзвэл ер бусын хөндий нь сонирхолтой оньсого мэт.

AI-д зарим нь ер бусын хөндийд бүрэн итгэдэг, зарим нь итгэдэггүй. Гэсэн хэдий ч та ер бусын хөндийд итгэдэг эсвэл итгэдэггүй ч гэсэн энэ сэдэв өөрөө эргэлзэж байна. Та толгойгоо нууж, бүтэц нь огт байхгүй мэт дүр эсгэж болохгүй. Бүтэц нь санаа мэт амьдардаг бөгөөд зарим талаараа вирусын хувьд хүчтэй байдаг. Үүнийг үзэн ядах эсвэл хайрлах, хараал идсэн эсвэл магадгүй өргөмжлөгдсөн сэдэв хэвээр байна.

AI өнцгөөс харахад ер бусын хөндийн ач тусын талаар миний өмнө хэлсэн үгийн дагуу тэнд хайр, үзэн ядалтын хоёр талт харилцаа байдаг. Ёс суртахуунтай хиймэл оюун ухааны салбарт байгаа хүмүүс ер бусын хөндийг хүлээн зөвшөөрөх эсвэл ер бусын хөндийг бүхэлд нь үгүйсгэх эсвэл үнэн зөв байдлын талаар төвийг сахисан хэвээр байж, үүний оронд үргэлжилсэн зөрүүтэй итгэл үнэмшлийн улмаас бий болох нөлөөлөл дээр анхаарлаа төвлөрүүлэх ёстой.

Энэхүү сорилт нь нэрт эдийн засагч Адам Смитийн нэгэнтээ Скептицизмийн хотоос гарах замд Хоёрдмол байдлын хөндийгөөр дамжин өнгөрөх ёстой гэж хэлсэн үгэнд нь хүргэж байна.