Та яагаад өөрөө жолооддог машингүй байна вэ? Энэхүү 2-р ангит цуврал нь үлдсэн томоохон асуудлуудыг тайлбарладаг

Хүмүүс ихэвчлэн “Миний өөрөө жолооддог машин хаана байна?” гэж асуудаг. "Яагаад надад байхгүй юм бэ, хэзээ ирэх вэ?" Хэдэн арван жилийн өмнө нисдэг машинуудын тухай ярьдаг шиг олон хүмүүс 20-иод насны өсвөр насныханд машин амласан бөгөөд оройтсон, магадгүй ирэхгүй байгаа гэж боддог.

Энэхүү хоёр нийтлэлийн цувралд (дагалдах видеонуудын хамт) та өнөөдөр робот машин унадаггүй байж болох гол шалтгаанууд болон хэзээ тохиолдож болохыг харцгаая. Технологи, хууль эрх зүй, нийгмийн гол асуудлууд юунд саад болж байна вэ, мөн ямар асуудлууд нь үнэндээ саад болохгүй вэ?

Бидний ихэнх нь эдгээр машинууд энд хангалттай хурдан ирж чадахгүй. Тэд дэлхий даяар жил бүр нэг сая гаруй хүний ​​аминд хүрч байгаа өнөөгийн автомашины ослоос зохих хэмжээний зайлсхийх амлалттай. Тэд бидний амьдралыг хөнгөвчлөх, тээврийн зарчмуудыг дахин бичих болно. Ингэхдээ тэд бидний амьдарч буй газар, хотын мөн чанар, эрчим хүчнээс эхлээд жижиглэнгийн худалдаа хүртэлх олон арван салбарыг дахин бичих болно. Бид өдөр бүр эдгээр зүйлсийг зам дээр гаргахаа хойшлуулж, жолоо барих ёсгүй байсан хүмүүсийн гарт олон мянган хүн амиа алдах болно. Бид өдөр бүр хойшлогддог.

Мэдээжийн хэрэг, хэцүү

Тодруулж хэлбэл, “маш их удаж байгаагийн” хамгийн том шалтгаан бол хэцүү. Програм хангамжийн судалгааны хамгийн том төслүүдийн нэг. Энэ нь зөвхөн дэвшилтэт програм хангамж төдийгүй асар олон тооны онцгой тохиолдлуудыг шийдвэрлэх, дэлхий болон түүний бүх үрчлээсийг зураглах зэрлэг ургамлуудыг нарийвчлан судлах шаардлагатай болсон. Үүнийг хуваарийн дагуу хүргэж болно гэж бодсон эсвэл бодож байгаа хүн буруу бөгөөд өмнө нь програм хангамж дээр ажиллаж байгаагүй. Автомашины компаниуд 2020 он гэх мэт огноог хаях үед эдгээр нь таамаглал биш харин итгэл найдвар байсан бөгөөд зарим технологийн компаниуд үүнийг зогсоосон нь үнэхээр гайхалтай байсан. Амжилт шаарддаг олон жилийн төслүүд хэзээ ч үнэн зөв таамагладаггүй.

Олон жилийн өмнө ийм том төслийн таамаглал үнэн зөв биш байвал програм хангамжийн мэдлэгтэй хэн ч цочирдохгүй. Тиймээс өөдрөг итгэл найдварыг хангаагүй байсан ч бүх зүйл "хуваариасаа хоцрохгүй" байна. Энэ нь бас жижиг алхмаар ажлууд хийгдэж байна гэсэн үг.

Хамгийн том хориглогч бол үүнийг хийх биш (өөрөөр хэлбэл аюулгүй болгох) харин та үүнийг хийсэн гэдгээ мэдэх явдал юм.

Та үүнийг үнэхээр аюулгүй болгосон гэдгээ баталж байна

Технологийн анхны зорилго бол үүнийг зүгээр л хэрэгжүүлэх явдал байв. Өөрийгөө аюулгүй жолоодох боломжтой машин хийх. Энэ бол асар том амжилт, гэхдээ наад зах нь хэд хэдэн хотод цөөн хэдэн компани үүнийг аль хэдийн гаргасан байна. Финиксийн хялбар гудамжинд Waymo зэрэг компаниуд энгийн хүнээс илүү аюулгүй жолооддог. Энэ бол "хэцүү хэсэг" байсан - гэхдээ аюулгүй байдал гэж юу болохыг тодорхойлж, хэмжиж, үүнийг хийсэн гэдгээ батлах нь бүр хэцүү хэсэг юм. Өөртөө ч, Удирдах зөвлөлдөө ч, хуульчдаа ч, олон нийтэд ч, магадгүй Засгийн газарт ч нотлох хэрэгтэй. Модерна Ковид вакцин 2020 оны 10-р сард бэлэн болсонтой адил анхны түгжрэлээс өмнө дэлхий нийт XNUMX сар хүлээж, нэг сая хүн үүнгүйгээр нас барж, анхны хүмүүст тариа хийлгэхийг зөвшөөрөв. Бид үүнийг хийсэн гэдгээ батлахыг нь хүлээсэн.

Аюулгүй байдлыг хэмжих нь нэлээд хэцүү байдаг. Хүний жолооч нар бага зэргийн эвдрэлээс эхлээд амь насаа алдах хүртэл бүх төрлийн осолд хэр их өртдөгийг бид мэднэ. АНУ-д ойролцоогоор 80 сая миль тутамд буюу 2 сая цаг жолоодсон үед хүний ​​амь нас хохирдог. Бид “Түүнийг нэг тэрбум миль жолоодъё, хэрэв хүмүүс ийм хол явсан бол үхэх хэдэн арван хүнээс цөөн хүн үхэж байгаа эсэхийг харъя” гээд программ хангамжийн хувилбар бүрийг туршиж болохгүй. Шинэ хувилбар бүрийг битгий хэл нэг удаа ч гэсэн жинхэнэ замаар явах боломжгүй зай юм. Бид хамаагүй бага машин жолоодож, уналт, бага зэргийн осол аваарыг тоолж болох юм - үнэндээ энэ бол бидний олж мэдсэн хамгийн шилдэг нь, учир нь энэ нь наад зах нь боломжтой юм - гэхдээ энэ нь роботын гэмтэлтэй адил хамааралтай эсэхийг бид сайн мэдэхгүй байна. хүмүүстэй хийдэг.

Олон хүмүүс автомашины үйлдвэрлэлийн уламжлалт аргыг эхлүүлдэг. Тэд тээврийн хэрэгслийнхээ эд анги бүрийг найдвартай, техникийн шаардлагад нийцсэн эсэхийг шалгадаг. Тэд үүнийг бүрэлдэхүүн хэсгүүдийн системээр хийхийг оролддог боловч бүх зүйл илүү төвөгтэй болох үед энэ аргачлал нь хэцүү болдог. Үүнийг функциональ аюулгүй байдал гэж нэрлэдэг - эд анги, систем нь ямар ч гэмтэлгүй бөгөөд тэдгээр нь мэдэгдэж болзошгүй эвдрэлийг даван туулах болно.

Сүүлийн үед үүнийг системийн түвшинд хүргэж, "Зориулалтын үйл ажиллагааны аюулгүй байдал"-ыг турших оролдлого улам ихсэж байна. SOTIF-ийн тусламжтайгаар багууд бүхэл бүтэн систем нь асуудал, бүрэлдэхүүн хэсгийн доголдол, буруу ашиглалтын үед аль алинд нь ажиллах болно гэдгийг баталгаажуулахын тулд ажилладаг. Үүнд ихэвчлэн бүхэл систем эсвэл түүний хэсгүүдийн симуляци, эсвэл зам дээрх амьд туршилтаас илүү хялбар бөгөөд аюулгүй "хөдөлгөөнд байгаа техник хангамж" симуляци ордог.

Симуляцийн тест нь системийг сая сая янз бүрийн хувилбараар турших боломжийг олгодог. Хэн нэгний үзсэн, сонссон, мөрөөдөж байсан бүх зүйл - эдгээр бүх зүйлийн хэдэн зуун бага зэргийн өөрчлөлттэй.

Туршилт хийхэд хамгийн хэцүү, гэхдээ таны мэдэхийг хамгийн их хүсдэг зүйл бол систем урьд өмнө хэзээ ч байгаагүй нөхцөл байдалд хэр сайн хариу үйлдэл үзүүлэх явдал юм. Тээврийн хэрэгсэл бараг бүх хүлээгдэж буй нөхцөл байдалд сайн ажиллаж байгааг мэдэхийн тулд симуляцийн туршилт хийж болох ч хүний ​​оюун санааны агуу ид шид бол урьд өмнө хэзээ ч байгаагүй асуудлыг шийдвэрлэх чадвар юм. AI үүнийг хийж чадна, гэхдээ тэд тийм ч сайн биш юм. Эцсийн эцэст бид өдөр бүр шинэ, бодитой, аюултай хувилбаруудыг олж авах арга замыг олох болно гэж найдаж байна. Өнөөдөр таны машин хэний ч бодож байгаагүй бүх зүйлийг зохицуулахаар программчлагдсан нь сайн хэрэг, гэхдээ жинхэнэ алтан стандарт нь урьд өмнө хэзээ ч харж байгаагүй 20 шинэ нөхцөл байдлыг өдөр бүр гаргаж, ихэнхийг нь зохицуулж байгааг олж мэдэх явдал юм. Хүн ч гэсэн бүгдийг нь зохицуулдаггүй. Энэ бол миний биелэхийг харна гэж найдаж буй нэг зүйл юм Аюулгүйн усан сан төсөл, би үүнийг Дэлхийн эдийн засгийн форум, Deepen.AI болон Варвикийн их сургуультай хамтран эхлүүлэхэд тусалсан.

Бүх симуляци хийсэн ч гэсэн та зам дээр шууд туршилт хийх хэрэгтэй. Бодит ертөнцтэй маш сайн харьцдаг гэдгээ харуулаагүй машиныг хэн ч ашиглахгүй. Үнэтэй хэдий ч хүний ​​аюулгүй байдлын жолоочийг робот машин жолоодоход ашиглах систем нь үнэхээр гайхалтай туршлагатай бөгөөд энгийн хүний ​​жолоодлоготой харьцуулахад олон нийтэд аюул учруулахгүй.

Салбарын хувьд компани бүр аюулгүй байдалд хэр үнэнч байгаагаа тайлбарлахын тулд унадаг. Аюулгүй тээврийн хэрэгсэл хийх нь тэдний үүрэг ч албан тушаалтан, олон нийтэд таалагдахын тулд ийм мэдэгдлийг хийдэг. Хамгийн хачирхалтай нь, олон нийтийн ашиг сонирхол нь хамгийн аюулгүй робот машин хийх биш харин ч илүү хамгийн аюулгүй замууд. Робокар бол аюулгүй замыг авчрах хэрэгсэл бөгөөд тэд энд хэдий чинээ хурдан ирэх тусам үүнийг хурдан, сайн хийх болно. Албаныхан, хэрэв тэд замын хөдөлгөөний аюулгүй байдлыг бүхэлд нь сайжруулах үүргээ нухацтай авч үзсэн бол компаниудыг аюулгүй байдлын талаар хэт хол явахгүй байхыг уриалж, аюулгүй технологийг хамгийн хурдан нэвтрүүлэхэд анхаарлаа хандуулах болно. , үүнийг илүү хурдан болгодог. Гэвч алдаа, эрсдэлд нийгэм хэрхэн ханддаг учраас тэд хэзээ ч хийхгүй.

Аюулгүй байдлын хоёр дахь бүрэлдэхүүн хэсэг бол кибер аюулгүй байдал юм. Бидэнд эдгээр машинууд тэднийг булаан авах оролдлогын эсрэг бат бөх байх хэрэгтэй. Зарим хүмүүс кибер аюулгүй байдлын талаар ярих дургүй байдаг ч автомашины үйлдвэрлэлийн өнгөрсөн түүх тийм ч сайн байгаагүй. Үүнийг хийх нь зөвхөн аюулгүй ажиллагааны дадлага, хэрэгсэл төдийгүй, "улаан баг" гэж нэрлэгддэг, цагаан малгайт хакеруудын мэргэжлийн баг гаднаас нь ангуучилж, эмзэг байдлыг олж чадахгүй болтол нь хайж байдаг. Өөр нэг чухал хэрэгсэл бол холболтыг багасгах буюу аюулгүй байдлын хүмүүсийн "халдлагын гадаргуу" гэж нэрлэдэг зүйл юм. Салбарын олон хүмүүс "холбогдсон машин" гэж төсөөлдөг зүйлдээ хэт автдаг бөгөөд холболтыг өөрөө жолооддог шиг том хувьсгал гэж андуурдаг. Тийм биш, алсаас ч биш. Зарим холболт шаардлагатай боловч жинхэнэ хувьсгал аюулгүй байхын тулд үүнийг бага зэрэг ашиглах хэрэгтэй.

Туршилтын хамгийн том сорилтуудын нэг бол бүх роботокар багуудын машин сургалтыг өргөнөөр ашиглах явдал юм. Машины сургалт бол асар хүчирхэг хиймэл оюун ухааны хэрэгсэл бөгөөд ихэнх нь үүнийг зайлшгүй шаардлагатай гэж үздэг боловч шийдвэр гаргадаг, гэхдээ хэн ч бүрэн ойлгодоггүй "хар хайрцаг" хэрэгслийг үйлдвэрлэх хандлагатай байдаг. Хэрэв та систем хэрхэн ажиллаж байгаа, яагаад бүтэлгүйтсэн, эсвэл зөв зүйл хийж байгааг мэдэхгүй бол үүнийг туршиж, баталгаажуулахад хэцүү байдаг. Европт тэд бүх хиймэл оюун ухааныг ямар нэг түвшинд "тайлбарлах" байхыг шаарддаг хууль тогтоомжийг гаргаж ирсэн боловч олон машин сургалтын сүлжээг тайлбарлахад маш хэцүү байдаг. Энэ нь аймшигтай, гэхдээ тэд маш хүчтэй тул бид тэднийг орхихгүй. Туршилтын хувьд тайлбарлах боломжтой системээс хоёр дахин аюулгүй хар хайрцагтай тулгарсан байж магадгүй бөгөөд хүмүүсийн аль алиныг нь сонгохыг дэмжсэн үндэслэлтэй аргументууд байдаг.

Ирээдүйг урьдчилан таамаглах

Робокар нь камер, радар, LIDAR лазер гэх мэт мэдрэгчээр бүрхэгдсэн байдаг. Мэдрэгч бол техник хангамжийн хамгийн их яригддаг хэсэг боловч үнэн хэрэгтээ мэдрэгч нь таны мэдэхийг хүссэн зүйлээ огт хэлдэггүй. Учир нь мэдрэгчүүд яг одоо байгаа зүйл хаана байгааг хэлж өгдөг ч та үүнд нэг их санаа зовдоггүй. Ирээдүйд бүх зүйл хаана байх нь танд санаа тавьдаг. Мэдрэгчийн мэдээлэл нь ирээдүйг урьдчилан таамаглах бодит зорилгын талаархи мэдээлэл юм. Аливаа зүйл хаана байгаа, хэр хурдан хөдөлж байгааг мэдэх нь сайн эхлэл боловч юу болохыг мэдэх нь хаана байгааг мэдэхийн нэгэн адил чухал юм. Зам дээрх болон ойролцоох объектуудын ихэнх нь баллистик биш - хүн хариуцаж, чиглэлээ өөрчлөх боломжтой. Тийм ч учраас өнөөдрийн судалгааны гол чиглэлүүдийн нэг бол зам дээр байгаа бусад хүмүүс, ялангуяа хүмүүс юу хийх гэж байгааг урьдчилан таамаглах нь улам сайжирч байна. Энэ нь жолоодлогын зан төлөвийг мэдэхээс эхлээд буланд зогсож буй явган зорчигч явган хүний ​​гарц руу орох гэж байгаа эсвэл вэб хуудсаар аялж байгаа эсэхийг мэдэх хүртэл байж болно.

Хэд хэдэн баг гайхалтай ахиц дэвшил гаргасан ч хүмүүс бусад хүмүүсийг урьдчилан таамаглахдаа өнөөгийн роботуудаас илүү байдаг нь харагдаж байна. Үүнийг илүү сайн хийх нь хийх зүйлсийн жагсаалтын гол асуудлуудын нэг юм, ялангуяа завгүй хот гэх мэт илүү төвөгтэй орчинд. Ирээдүйг урьдчилан таамаглахад бусад хүмүүс таны өөрийн болон бусдын урьдчилан таамагласан хөдөлгөөнд хэрхэн хандахыг урьдчилан таамаглахыг хэлдэг. Эгнээ нийлэх эсвэл хамгаалалтгүй зүүн тийш эргэх нь өгөх, авах бүжиг байж болох бөгөөд робот машинууд өөрсдийнхөө байдлыг сайжруулахыг үргэлж хичээх болно.

Илүү хурдан мэдрэх

Мэдрэгч нь зөвхөн бодит зорилгод хүрэх хэрэгсэл байж болох ч илүү сайн ажиллах тусам та ирээдүйг илүү сайн таамаглаж чадна. Багууд ойлголт, таамаглалыг хурдан болгохын тулд мэдрэгчийг илүү хурдан болгохыг эрэлхийлсээр байна. Нэг чухал зүйл бол хөдөлж буй объектуудын хурдыг мэдэх явдал юм. Радар танд үүнийг хэлдэг ч олон тооны фрэймийг харахгүй бол камер болон хуучин LIDAR-ууд тэгдэггүй. Зарим шинэ LIDAR нь хурд болон зайг хэлж чадна. Олон фрэймийг харах нь наад зах нь жааз авахтай адил их цаг зарцуулдаг боловч ихэвчлэн илүү их цаг зарцуулдаг.

Асуудал үүсгэж болох нэг нөхцөл бол хурдны зам дээр том тээврийн хэрэгслийн ард явах явдал юм. Тэр машины өмнө ачааны машин мөрөн дээрээ зогсон эгнээнд наалдсан гээд бод доо. Энэ нь осол аваар, яаралтай тусламжийн машинд их тохиолддог. Гэнэт таны өмнө байсан том машин саадаас зайлсхийхийн тулд баруун тийш эргэж, тэр зогссон ачааны машиныг анх удаа харж байна. Танд үнэхээр тоормослох, хазайх цаг тийм ч их байдаггүй, бас явах газар ч байхгүй байж магадгүй. Хэрэв та 3 фрэймийн видеог үзэх шаардлагатай бол энэ нь үнэхээр хөдлөхгүй байгаа бол энэ нь секундын 1/10-ыг дэмий үрсэн байж магадгүй бөгөөд энэ нь чухал байж болох нөхцөл байдал юм. Тиймээс олон багууд энэ давуу талыг олж авах арга замыг эрэлхийлж байгаа бөгөөд лазераар цохисон бүх зүйлийнхээ хурдыг мэдэхийн тулд "Допплер" хэмжиж чаддаг LIDAR-аас үүнийг олсон. Радарууд ч хурдыг мэддэг ч дэлхий ертөнц радарыг тусгах зогссон биетүүдээр дүүрэн байдаг бөгөөд зогссон тээврийн хэрэгслийг хажууд нь зогссон хашлагаас ялгахад хэцүү байдаг.

Урт замыг туулах нь

Үүний шалтгаан нь нэг алдартай баг болох Тесла гэдгийг би товч дурдъяTSLA
-Одоохондоо бэлэн болоогүй байгаа нь тэд асуудлыг зориудаар хүндрүүлэхийг оролдож байна. Баг бүр компьютерийн алсын харааг ихээр ашигладаг бол 2016 оноос эхлэн Тесла үүнийг зөвхөн компьютерийн хараатай, зөвхөн камертай болгохыг хүсч байна. Бусад ихэнх багууд илүү сайн камер, LIDAR, радар, газрын зураг зэргийг багажийн хайрцагтаа нэмдэг. Тесла үүнийг хямд үнээр хийж чадах алсын хараатай болохыг хүсч байна. Эдгээр бүх нэмэлт хэрэгсэл нь анхаарал сарниулах зүйл гэж тэд хэлдэг. Гэхдээ бусад салбарынхан үүнийг илүү хурдан, илүү өндөр өртөгтэй болгохын тулд бүх хэрэгслийг ашиглахыг хүсч байгаа бөгөөд Тесла өөрийгөө эвдэрч байна гэж бодож байна. Одоогийн байдлаар бүтээгдэхүүний чанарт үндэслэн - Tesla FSD маш их хоцрогдсон - уралдаан дуусаагүй байгаа ч бусад нь зөв юм.

Энэ бол нэг хэсэг. Хоёрдугаар хэсэг нь замын сайн иргэн байх, яагаад робот машинуудыг хаа сайгүй нэг дор байрлуулахын оронд нэг нэгээр нь нэг хотод байрлуулж байгаа талаар, мөн унаачдыг авах, бизнес загвар өмсөгчдийг татах гэх мэт энгийн логистикийн асуудлыг шийдвэрлэх зэрэг асуудлуудыг авч үздэг. апп-ууд болон аюулгүй байдлын талаар хэт их санаа зовж, засгийн газар болон олон нийт таныг хүлээж авах. Би мөн дээр нь ажиллаж байгаа боловч байршуулах бодит хориглогч биш хэд хэдэн хүчин зүйлийг жагсаах болно. Ирэх өдрүүдэд хоёрдугаар хэсгийг хайж олоорой.

Зарим хүмүүс 2022 онд робот машингүй эсвэл унадаггүй нь хөгжил төлөвлөгөөнөөс хоцрогдсон гэсэн үг гэж боддог. Бодит байдал дээр хэзээ ч ноцтой хуваарь байгаагүй, зөвхөн итгэл найдвар, гэхдээ үнэн хэрэгтээ эдгээр асуудлуудын жагсаалт нь өөдрөг үзлийг илэрхийлдэг, учир нь эдгээр үлдсэн асуудлууд ерөнхийдөө шийдэгдэх боломжтой мэт санагддаг. Тэдгээрийн ихэнхийг даван туулахын тулд ололт амжилт биш харин шаргуу хөдөлмөр, мөнгө хэрэгтэй.

Хоёр дахь хэсгийг видео болон текст хэлбэрээр хүлээн авч үзээрэй

Та энэ хуудсан дээр эсвэл видео хуудсан дээр сэтгэгдэл үлдээж болно.