Хиймэл оюун ухааны ёс зүй нь дэлхий дахинд асар их хэмжээний хиймэл оюун ухааны хэвийх үзэгдлийн тухай түгшүүрийн хонхыг дуугаргаж байна, ялангуяа бүрэн бие даасан системүүдээр тэжээгддэг.

Зөв шийдвэр нь тоон дээр биш мэдлэг дээр суурилдаг гэж Платон хэлсэн байдаг.

Энэхүү нарийн ойлголт нь өнөөгийн хиймэл оюун ухааны (AI) талаар гайхалтай нарийн юм шиг санагдаж байна.

Хиймэл оюун ухаан ямар нэгэн байдлаар оюун ухаанд хүрч, хүний ​​мэдлэг, үндэслэлийг агуулсан гэж тунхагласан гарчигтай гарч байгаа хэдий ч, бид өнөөдрийн алгоритмын шийдвэр гаргахдаа (ADM) тоо хэмжигдэхүүнд найдсан хэвээр байгаа тул энэхүү хэтрүүлсэн хиймэл оюун ухааны хэтрүүлбэр нь далд таамаглал гэдгийг анхаарна уу. ) AI системүүдийн дагуу. Сайхан магтсан Machine Learning (ML) болон Deep Learning (DL) нь хүртэл тооцооллын загварт тааруулахаас бүрддэг бөгөөд энэ нь ML/DL-ийн өндөр хэрэглээний цөм нь тоо хэвээр байна гэсэн үг юм.

AI оюун ухаанд хүрэх боломжтой эсэхийг бид мэдэхгүй. Байж магадгүй, үгүй ​​ч байж болно. Энэ нь хэрхэн үүсч болохыг хэн ч хэлж чадахгүй. Зарим нь бид AI-ийн тооцооллын хүчин чармайлтаа аажмаар сайжруулж, мэдрэмжийн хэлбэр аяндаа бий болно гэж итгэдэг. Бусад хүмүүс хиймэл оюун ухаан нь нэг төрлийн тооцооллын супернова руу орж, мэдрэмжийн түвшинд хүрч чадна гэж боддог (ихэвчлэн онцгой байдал гэж нэрлэдэг). AI-ийн ирээдүйн талаарх эдгээр онолын талаар илүү ихийг мэдэхийг хүсвэл миний сурвалжлагыг үзнэ үү холбоос энд байна.

Тиймээс орчин үеийн хиймэл оюун ухаан нь хүн шиг сэтгэж чаддаг гэж өөрсдийгөө хуурч, худал хуурмаг зүйл хийхгүй байцгаая. Дараа нь бид мэдрэмжтэй хиймэл оюун ухаан дээр биш тооцооллын хиймэл оюун ухаанд тулгуурлан сайн шийдвэр гаргаж чадах уу гэсэн Платоны хэлсэн үгийн тухай асуулт гарч ирнэ гэж би бодож байна. Өдөр тутмын хиймэл оюун ухааны системээр бид үнэхээр сайн шийдвэр гаргаж чадна гэдгийг би батлах болно гэдгийг мэдээд та гайхах байх.

Энэ зоосны нөгөө тал нь бид буруу шийдвэр гаргадаг өдөр тутмын AI системтэй байж болно. Муухай шийдвэрүүд. Зөвшөөрөгдөөгүй өрөөсгөл, шударга бус шийдвэрүүд. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Миний хиймэл оюун ухааны ёс зүй ба ёс суртахууны хиймэл оюун ухааны талаархи өргөн хүрээний мэдээллийг эндээс авах боломжтой энэ линкийг эндээс авна уу болон энэ линкийг эндээс авна уу, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Энэхүү хэлэлцүүлгийн хувьд би хиймэл оюун ухаантай холбоотой онцгой санаа зовоосон асуудлыг хөндөхийг хүсч байна. Хиймэл оюун ухааны ёс зүйн талбарт байгаа хүмүүс зүй ёсоор гомдоллож, тэдний мэдлэгийг дээшлүүлэхийг хичээж байна. Сэтгэл түгшээж, түгшээж байгаа зүйл бол үнэндээ маш энгийн зүйл юм.

Энэ байна: Хиймэл оюун ухаан нь дэлхийн хэмжээнд хиймэл оюун ухаанд суурилсан гажуудлыг түгээн дэлгэрүүлэх бодит боломжуудтай.

Тэгээд би "хэмжээнд" гэж хэлэхэд энэ нь дэлхий даяар асар том хэмжээний гэсэн үг юм. Асар том хэмжээтэй. Хэмжээнээс гарсан масштаб.

Хиймэл оюун ухаанд суурилсан гажуудлыг хэрхэн яаж өргөжүүлэх талаар би судлахаасаа өмнө хиймэл оюун ухаан нь хэт буруу хандлага, тэгш бус байдлыг хэрхэн өөртөө шингээж болох талаар бид бүгдээрээ ижил төстэй ойлголттой байгаа эсэхийг шалгацгаая. Энэ нь мэдрэмжтэй төрөл зүйл биш гэдгийг дахин санаарай. Энэ бүхэн тооцооллын калибр юм.

AI нь хүмүүстэй ижил төрлийн сөрөг хандлага, тэгш бус байдлыг хэрхэн шингээж чадах талаар та эргэлзэж магадгүй юм. Бид хиймэл оюун ухааныг бүхэлд нь төвийг сахисан, нэг талыг барьсан, зүгээр л хүн төрөлхтний ямар ч сэтгэл хөдлөл, муу бодолтой машин гэж үзэх хандлагатай байдаг. Хиймэл оюун ухаан нэг талыг баримталж, шударга бус байдалд орох хамгийн түгээмэл арга замуудын нэг бол хүмүүс хэрхэн шийдвэр гаргаж байгаа талаар цуглуулсан мэдээлэлд тулгуурлан хэсэгчлэн Machine Learning болон Deep Learning ашиглах үед тохиолддог.

Нэгэн хором дэлгэрүүлэн ярихыг зөвшөөрнө үү.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын загварт тааруулах нь зүгээр л математикийн дагуу өгөгдлийг дуурайхыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. Алгоритм шийдвэр гаргах буюу AI-ийн ADM нь тэгш бус байдлын улмаас аксиомат байдлаар дүүрдэг.

Сайн биш.

Энэ нь биднийг өргөн цар хүрээтэй байх үед хиймэл оюун ухаанд тулгуурласан хэвийх байдлын асуудалд авчирдаг.

Эхлээд хүний ​​өрөөсгөл хандлага хэрхэн тэгш бус байдлыг бий болгож болохыг харцгаая. Ипотекийн зээл олгодог компани ипотекийн зээлийн агент ажиллуулахаар шийддэг. Агент нь орон сууцны зээл авах хүсэлтэй хэрэглэгчдийн хүсэлтийг хянах ёстой. Өргөдлийг үнэлсний дараа төлөөлөгч зээл олгох эсвэл татгалзах шийдвэр гаргадаг. Хялбар тайван.

Хэлэлцүүлгийн үүднээс хүний ​​зээлийн агент өдөрт 8 зээлийг задлан шинжилдэг бөгөөд нэг хянан үзэхэд нэг цаг зарцуулдаг гэж төсөөлөөд үз дээ. Таван өдрийн ажлын долоо хоногт агент 40 орчим зээлийн үнэлгээ хийдэг. Жилд агент нь ихэвчлэн 2,000 орчим зээлийн үнэлгээг хийдэг, бага зэрэг өгдөг эсвэл авдаг.

Тус компани зээлийн үнэлгээний хэмжээг нэмэгдүүлэхийг хүсч байгаа тул пүүс нэмэлт 100 зээлийн төлөөлөгч хөлсөлж байна. Тэд бүгд ижил бүтээмжтэй бөгөөд энэ нь бид одоо жилд 200,000 орчим зээл (агент бүрт 2,000 зээлийн тойм) авч болно гэсэн үг гэж бодъё. Бид зээлийн хүсэлтийг шийдвэрлэх ажлыг үнэхээр эрчимжүүлсэн бололтой.

Тус компани нь хүний ​​​​агентуудтай адил зээлийн хяналтыг хийх боломжтой хиймэл оюун ухааны системийг зохион бүтээсэн нь харагдаж байна. AI нь үүлэн доторх компьютерийн серверүүд дээр ажилладаг. Тус компани үүлэн дэд бүтцээр дамжуулан шаардлагатай байж болох аливаа зээлийн тоймыг багтаахын тулд илүү тооцоолох хүчийг хялбархан нэмж чадна.

Одоо байгаа хиймэл оюун ухааны тохиргооны тусламжтайгаар тэд цагт 1,000 зээлийн үнэлгээ хийх боломжтой. Энэ нь мөн 24×7 тохиолдож болно. AI-д амралтын цаг шаардлагагүй. Үдийн хоолны завсарлага байхгүй. Хиймэл оюун ухаан нь хэт их ачаалалтай байна гэж шуугиулахгүй өдөр шөнөгүй ажилладаг. Ойролцоогоор ийм хурдаар хиймэл оюун ухаан жилд 9 сая орчим зээлийн хүсэлтийг боловсруулах боломжтой гэж бид хэлэх болно.

Бид жилд 100 зээл олгох чадвартай 200,000 хүний ​​​​агенттай байснаас хиймэл оюун ухааны системээр дамжуулан жил бүр 9 сая үнэлгээний тоо руу хэд дахин өссөнийг анхаарна уу. Бид зээлийн хүсэлтийн боловсруулалтыг эрс өргөжүүлсэн. Үүнд эргэлзэх хэрэггүй.

Таныг сандлаасаа унахад хүргэж болзошгүй цохилтод бэлэн байгаарай.

Манай зарим хүний ​​агентууд зээлийн шийдвэрээ үл нийцэх үзлийн үндсэн дээр гаргаж байна гэж бодъё. Магадгүй зарим нь зээлийн шийдвэрт арьсны өнгөний хүчин зүйл гол үүрэг гүйцэтгэдэг байх. Магадгүй зарим нь хүйсийг ашиглаж байгаа байх. Бусад нь насыг ашиглаж байна. гэх мэт.

Жилийн 200,000 зээлийн үнэлгээний хэд нь сөрөг хандлага, тэгш бус байдлын буруу харцаар хийгдэж байна вэ? Магадгүй 10% нь зээлийн хүсэлтийн 20,000 орчим нь юм. Хамгийн муу нь зээлийн хүсэлтийн 50% нь зээлийн шийдвэр буруу шийдвэрлэгдсэн жил бүр 100,000 тохиолдол байдаг гэж бодъё.

Тэр муу. Гэхдээ бид үүнээс ч илүү аймшигтай боломжийг авч үзэхгүй байна.

AI нь арьсны өнгө, хүйс, нас гэх мэт хүчин зүйлээс бүрдсэн далд хэвийсэн шинж чанартай гэж бодъё. Жилийн зээлийн шинжилгээний 10% нь энэ таагүй байдалд орсон бол бид 900,000 зээлийн хүсэлтийг буруу шийдвэрлэж байна. Энэ нь хүний ​​​​агентуудын хийж чадах зүйлээс хамаагүй илүү бөгөөд энэ нь юуны түрүүнд эзлэхүүнтэй холбоотой юм. Эдгээр 100 агентууд бүхэлдээ шударга бус хяналт шалгалт хийж байсан бол дээд тал нь 200,000 жилийн зээлийн үнэлгээнд үүнийг хийж чадна. Хиймэл оюун ухаан нь жилийн 9,000,000 тоймоос хамаагүй том хэмжээнд ижил зүйлийг хийж чадна.

Яахав!

Энэ бол үнэхээр асар том хэмжээний хиймэл оюун ухаанд суурилсан хэвийсэн хандлага юм.

Хиймэл оюун санааны системд таагүй хандлагыг шингээх үед ашигтай мэт санагдаж байсан масштаб одоо эргэж эргэж, аймшигтай (болон түгшээсэн) масштабын үр дүн болж байна. Нэг талаас, хиймэл оюун ухаан нь орон сууцны зээл хүсч буй олон хүмүүсийг хариуцах боломжтой. Өнгөц харахад энэ нь гайхалтай юм шиг санагддаг AI For Good. Хүмүүс шаардлагатай зээл авах боломжийг нэмэгдүүлэхийн тулд бид өөрсдийгөө нуруун дээрээ алгадах ёстой. Үүний зэрэгцээ, хэрэв хиймэл оюун ухаан нь хэвийсэн ойлголттой бол масштаблах нь маш муу үр дагаварт хүргэж, бид өөрсдийгөө харамсах болно. AI For Bad, үнэхээр асар том хэмжээнд.

Хоёр талдаа иртэй сэлэм.

AI нь хүссэн үйлчилгээ, бүтээгдэхүүн хайж байгаа хүмүүсийн шийдвэр гаргах хүртээмжийг эрс нэмэгдүүлж чадна. Хүнээр хязгаарлагдах хөдөлмөрийн гацаа байхгүй болсон. Гайхалтай! Илдний нөгөө үзүүр нь хэрэв хиймэл оюун ухаан нь далд тэгш бус байдал гэх мэт муу муухайг агуулсан бол яг ижил том хэмжээс нь тэрхүү таагүй зан үйлийг төсөөлшгүй хэмжээнд хүргэх болно. Уур уцаартай, буруутай, ичгүүртэй, нийгмийг ийм муухай ангал руу унагаж болохгүй.

Бид яагаад хиймэл оюун ухааны ёс зүйн ач холбогдлыг ухаарах ёстойг гайхаж байсан хэн бүхэн одоо хиймэл оюун ухааны цар хүрээг нэмэгдүүлэх үзэгдэл нь Ёс суртахууны хиймэл оюун ухааныг эрэлхийлэх чухал шалтгаан гэдгийг ойлгох ёстой. Хиймэл оюун ухаан урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд AI-ийн ёс зүйн үндсэн зарчмуудыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Тус газрын хиймэл оюун ухааны чадавхийг холбогдох ажилтнууд ил тод, аудит хийх боломжтой арга зүй, мэдээллийн эх сурвалж, дизайны журам, баримт бичиг зэрэг хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргуудын талаар зохих ойлголттой байхаар хөгжүүлж, байршуулна.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь маш хэцүү байх болно. Үүнээс гадна эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл байдал юм.

AI-ийн ёс зүйн зарчмуудыг AI хөгжүүлэгчид, хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирдан чиглүүлдэг, тэр ч байтугай AI системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг ёс зүйн хиймэл оюун ухааны тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг программчлагч нар хиймэл оюун ухааны ёс зүйн ойлголтыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Хиймэл оюун ухааныг зохион бүтээхэд тосгон шаардлагатай гэдгийг анхаарна уу. Үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс суртахууны талаар хөл дээрээ зогсох ёстой.

AI-Steeped Biases Scaling хэрхэн ажилладаг вэ

Одоо би хиймэл оюун ухаан нь хэвийх утгыг агуулж болохыг олж мэдсэн тул бид хиймэл оюун ухааныг масштаблах нь яагаад интрузив болж байгаа зарим шалтгааныг судлахад бэлэн байна.

Арван үндсэн шалтгаануудын жагсаалтыг авч үзье.

1. Хялбар хуулбарлах
2. Томруулах хамгийн бага зардал
3. Ёстой тууштай
4. Өөрийгөө эргэцүүлэн бодох чадвар дутмаг
5. Сохор дуулгавартай байдал
6. Гараа хөдөлгөдөггүй
7. Хүлээн авагч сэжиггүй
8. Өдгөө өдөөн хатгалга гаргахгүй байх хандлагатай
9. Шударга байдлын хуурамч аура
10. няцаахад хэцүү

Би эдгээр чухал цэгүүдийг товчхон авч үзэх болно.

Хүний хөдөлмөрийг нэмэгдүүлэх гэж оролдоход үүнийг хийх нь асар их төвөгтэй байх магадлал өндөр байна. Хүмүүсээ олж ажилд авах ёстой. Та тэднийг ажлаа хийхэд нь сургах хэрэгтэй. Та тэднийг төлж, хүний ​​хүсэл, хэрэгцээг харгалзан үзэх ёстой. Үүнийг AI системтэй харьцуул. Та үүнийг хөгжүүлж, хэрэглээнд оруулна. Хиймэл оюун ухааныг байнга засварлахаас бусад тохиолдолд та зүгээр суугаад эцэс төгсгөлгүй боловсруулах боломжтой.

Энэ нь хиймэл оюун ухааныг амархан хуулбарладаг гэсэн үг юм. Даалгавар болон эзлэхүүн шаардлагатай байж болзошгүй тул та илүү тооцоолох хүч нэмж болно (та ажилд авах эсвэл ажлаас чөлөөлөхгүй). Дэлхий даяар хэрэглээ нь нэг товчлуур дээр дарж хийгдэж, дэлхий даяар интернетийн хүртээмжтэй болсноор хүрдэг. Өргөтгөх нь хүний ​​хөдөлмөртэй адил зүйлийг хийхтэй харьцуулахад хамгийн бага зардал юм.

Хүний хөдөлмөр нь үл нийцэхүйц байдаг. Том багуудтай бол таны гарт юу байгааг хэзээ ч мэдэхгүй жинхэнэ хайрцаг шоколад байдаг. AI систем нь маш тогтвортой байх магадлалтай. Энэ нь ижил үйлдлүүдийг дахин дахин давтдаг бөгөөд тэр болгондоо сүүлчийнхтэй ижил байдаг.

Ер нь бид хиймэл оюун ухааны тууштай байдалд дуртай байх болно. Хэрэв хүмүүс өрөөсгөл хандлагад өртөмтгий бол бид хүний ​​хөдөлмөрийн зарим хэсэг нь төөрөлдсөн хэвээр байх болно. Хиймэл оюун ухаан нь бүтээн байгуулалт, тооцооллын хүчин чармайлтаа цэвэршүүлэхгүй бол илүү тогтвортой байх болно. Асуудал нь хэрэв хиймэл оюун ухаан нь далд хэвийсэн хандлагатай бол одоо тогтвортой байдал нь үнэхээр жигшмээр юм. Магадлал нь өрөөсгөл зан үйлийг байнга, дахин дахин хийх болно.

Хүн төрөлхтөн өөрийгөө эргэцүүлэн бодох мэдрэмжтэй байж, өрөөсгөл шийдвэр гаргаж магадгүй гэж найдаж байна. Бүгд л тэгнэ гэж би хэлээгүй. Өөрийгөө барьж авсан хүмүүс буруугаа засна гэж би бас хэлэхгүй. Ямар ч байсан, ядаж зарим хүмүүс заримдаа өөрийгөө засаж залруулдаг.

Хиймэл оюун ухаан нь тооцооллын өөрийгөө эргэцүүлэх ямар ч хэлбэргүй байх магадлал багатай. Энэ нь хиймэл оюун ухаан нь хийж байгаа зүйлээ үргэлжлүүлэн хийдэг гэсэн үг юм. Хиймэл оюун ухаан нь өмч хөрөнгөө зөрчиж байгааг илрүүлэх магадлал тэг байх шиг байна. Үүнийг хэлэхэд би хиймэл оюун ухаан дотор AI ёс зүйн бүрэлдэхүүн хэсгүүдийг бий болгох гэх мэт үүнийг шийдвэрлэх зарим хүчин чармайлтыг тайлбарласан (харна уу). холбоос энд байна) болон ёс зүйгүй хиймэл оюун ухааны үйл ажиллагааг илрүүлэхийн тулд бусад хиймэл оюун ухааныг хянадаг хиймэл оюун ухаан зохион бүтээх (харна уу холбоос энд байна).

Ямар ч төрлийн өөрийгөө эргэцүүлэн бодох чадваргүй тул хиймэл оюун ухаан нь өөрт нь зааж өгсөн бүх зүйлд сохроор дуулгавартай байх магадлалтай. Хүмүүс тийм дуулгавартай байдаггүй байж магадгүй. Даалгавар хийж байгаа зарим хүмүүс шударга бус газар руу чиглүүлж байгаа эсэхэд эргэлзэх магадлалтай. Тэд ёс зүйгүй тушаалаас татгалзах эсвэл мэдээлэгчийн замаар явах хандлагатай байдаг (миний сурвалжлагыг эндээс үзнэ үү. энэ линкийг эндээс авна уу). Орчин үеийн хиймэл оюун ухаан ямар нэгэн байдлаар түүний програмчлалд эргэлзэнэ гэж найдаж болохгүй.

Дараа нь бид хиймэл оюун ухаан ашигладаг хүмүүст хандана. Хэрэв та орон сууцны зээл авахыг хүсч, хүнтэй ярилцаж байсан бол тэр хүн танд шударга зүйл өгч байгаа эсэх талаар сэрэмжтэй байж магадгүй юм. AI системийг ашиглах үед ихэнх хүмүүс сэжиглэх нь бага байдаг. Тэд хиймэл оюун ухаан нь шударга, тиймээс тийм ч хурдан уурладаггүй гэж тэд ихэвчлэн боддог. Хиймэл оюун ухаан нь хүмүүсийг "энэ бол зүгээр л машин" транс руу оруулдаг бололтой. Дээрээс нь хиймэл оюун ухааныг эсэргүүцэх нь хэцүү байх болно. Үүний эсрэгээр, хүний ​​төлөөлөгч танд хэрхэн хандсаныг эсэргүүцэх нь илүү хялбар бөгөөд илүү нийтлэг хүлээн зөвшөөрөгдсөн бөгөөд боломжтой гэж үздэг.

Бүх зүйлийг хэлэхэд, хэт нэг талыг барьсан хиймэл оюун ухаан нь нэг талыг барьсан хүмүүсийн эсрэг, тухайлбал, хиймэл оюун ухаан нь тэдгээр хэвийх үзлийг асар том хэмжээнд байрлуулж, тийм ч амархан баригдалгүй, хэрэглэгчдийг татахгүйгээр хийх боломжтой гэдгээрээ гутамшигтай байдаг. юу болж байгааг ойлгох.

Хэлэлцүүлгийн энэ мөчид та хиймэл оюун ухаанд суурилсан гажуудлыг масштабаар харуулах нэмэлт жишээнүүдийг авахыг хүсч байна гэдэгт би итгэлтэй байна.

Таныг асуусанд баяртай байна.

Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга хүсдэг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд гарч ирснээр хиймэл оюун ухаанд суурилсан гажуудлын талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулбал, жинхэнэ өөрөө жолооддог автомашинууд бол хиймэл оюун ухаан нь машиныг өөрөө дангаараа жолооддог бөгөөд жолоодлогын үеэр хүний ​​туслалцаа үзүүлдэггүй.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшний өөрөө жолоодох жинхэнэ автомашин одоогоор гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, хэр удаан хүрэх нь хараахан гараагүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машинууд ба хиймэл оюун ухааны хэтийн төлөв

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний хэлэх гэж буй зүйлийн үндэс суурь болох хангалттай хэмжээний сэрэмжлүүлэг өгдөг гэдэгт би итгэж байна.

Бид одоо өөрөө жолооддог машинууд болон өргөн цар хүрээтэй тархсан хиймэл оюун ухаанд суурилсан гажуудлыг судлах шаардлагатай Ёс зүйн хиймэл оюун ухааны боломжууд руу гүн гүнзгий шумбахад бэлэн байна.

Шууд ойлгомжтой жишээ татъя. Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машин танай хөршийн гудамжаар явж байгаа бөгөөд аюулгүй жолоодож байх шиг байна. Эхлээд та өөрөө жолоодлоготой машиныг харах бүртээ онцгой анхаарал хандуулдаг байсан. Автономит машин нь видео камер, радарын төхөөрөмж, LIDAR төхөөрөмж гэх мэт электрон мэдрэгч бүхий өлгүүрээрээ бусдаас ялгарч байв. Өөрийгөө жолооддог машин танай нутгийн эргэн тойронд олон долоо хоног аялсны дараа та үүнийг бараг анзаарахаа больсон. Таны хувьд энэ бол аль хэдийн ачаалал ихтэй нийтийн зам дээр байгаа өөр нэг машин юм.

Өөрийгөө жолооддог машинтай танилцах нь боломжгүй юм уу, үнэмшилгүй юм болов уу гэж бодогдохгүйн тулд өөрөө жолоодлоготой автомашины туршилтад хамрагдсан орон нутаг аажим аажмаар гацсан машинуудыг харж дассан тухай би байнга бичсэн. миний шинжилгээг үзнэ үү энэ линкийг эндээс авна уу. Нутгийн оршин суугчдын олонх нь эцэст нь амаа ангайж гөлрөхөөс уйтгар гунигт автаж, өөрөө жолоодлоготой машинуудыг нүдээр харах болсон.

Магадгүй яг одоо тэд бие даасан тээврийн хэрэгслийг анзаарч байгаа гол шалтгаан нь цочрол, цочроох хүчин зүйлтэй холбоотой байж болох юм. Номын дагуу хийгдсэн хиймэл оюун ухаантай жолоодлогын системүүд нь машинууд хурдны хязгаарлалт, замын хөдөлгөөний дүрмийг дагаж мөрддөг эсэхийг шалгадаг. Уламжлалт хүнээр жолооддог машинаараа ачаалал ихтэй жолооч нарын хувьд хууль дүрмийг чанд мөрддөг хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашины ард гацсан үед та бухимддаг.

Энэ нь зөв ч бай, буруу ч бай бид бүгдэд дасах хэрэгтэй байж болох зүйл юм.

Бидний үлгэр рүү буцах.

Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинуудын талаар ямар ч хор хөнөөлгүй, ерөнхийдөө хүлээн зөвшөөрөгдсөн хоёр санаа зовниж эхэлжээ.

а. Хиймэл оюун ухаан хаана тэнүүчилж байна вэ гэдэг нь өөрөө жолоодлоготой машинууд унахад анхаарал хандуулж байсан.

б. Замын эрхгүй, хүлээж буй явган зорчигчдод хиймэл оюун ухаан хэрхэн хандаж байгаа нь тулгамдсан асуудал болоод байна.

Эхэндээ хиймэл оюун ухаан нь бүхэл бүтэн хот даяар автомат жолоодлоготой машинуудыг тэнүүчилж байв. Өөрийгөө жолооддог машинд суух хүсэлт гаргахыг хүссэн хэн бүхэн уг машиныг угтах боломж үндсэндээ тэнцүү байсан. Аажмаар хиймэл оюун ухаан нь өөрөө жолооддог машинуудыг хотын зөвхөн нэг хэсэгт л тэнүүчилж эхлэв. Энэ хэсэг нь илүү их мөнгө олдог байсан бөгөөд AI системийг олон нийтийн хэрэглээний нэг хэсэг болгон орлогоо нэмэгдүүлэхийг оролдох, нэмэгдүүлэх зорилгоор програмчлагдсан байв.

Хотын ядуу хэсгийн оршин суугчид автомат жолоодлоготой машинаар явах боломж бага байсан. Учир нь автомат жолоодлоготой машинууд илүү хол, тухайн бүс нутгийн өндөр орлоготой хэсэгт тэнүүчилж байв. Хотын алслагдсан хэсгээс хүсэлт ирэхэд хотын "эрхэм" хэсэгт байх магадлалтай ойр газраас ирсэн аливаа хүсэлт илүү өндөр ач холбогдолтой байх болно. Эцсийн эцэст, хотын илүү баян хэсгээс өөр газар өөрөө жолооддог машинтай болох нь бараг боломжгүй байсан нь одоо баялгийн хомсдолд орсон эдгээр бүс нутагт амьдарч байсан хүмүүсийн хувьд үнэхээр хэцүү байв.

Хиймэл оюун ухаан нь прокси ялгаварлан гадуурхах хэлбэр (мөн шууд бус ялгаварлан гадуурхалт гэж нэрлэдэг) дээр тулгуурласан гэж та баталж чадна. AI нь эдгээр ядуу хорооллуудаас зайлсхийхийн тулд програмчлагдсангүй. Харин үүний оронд ML/DL ашиглан үүнийг хийж сурсан.

Хамгийн гол нь ridesharing хүн жолооч нар мөнгө олох өнцгөөс шалтгаалах албагүй ч ижил зүйл хийдэг гэдгээрээ алдартай байв. Хотын зарим хэсэгт морьтон авах талаар таагүй хандлагатай, унасан жолооч нар байсан. Энэ нь зарим талаараа мэдэгдэж байсан үзэгдэл байсан бөгөөд хотын захиргаа үүнийг хийж буй жолооч нарыг барихын тулд хяналтын арга барилыг бий болгосон. Хүний жолооч нар сонгон шалгаруулалтын зохисгүй үйлдлээс болж асуудалд орж болзошгүй.

Хиймэл оюун ухаан хэзээ ч ийм хурдан элсэнд унахгүй гэж таамаглаж байсан. Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинууд хаашаа явж байгааг хянах тусгай хяналт тавиагүй. Нөхөрлөлийн гишүүд гомдоллож эхэлсний дараа л хотын удирдлагууд юу болоод байгааг ойлгов. Автономит болон өөрөө явагч машинуудын танилцуулах гэж буй хотын хэмжээнд ийм төрлийн асуудлын талаар илүү ихийг мэдэхийг хүсвэл миний сурвалжлагыг үзнэ үү. энэ линкийг эндээс авна уу мөн энэ сэдвээр миний хамтран бичсэн Харвардаар удирдуулсан судалгааг тайлбарласан болно.

Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой автомашинуудын роуминг шинж чанаруудын энэхүү жишээ нь хүмүүсийг таагүй хандлагатай болгож, хяналт тавих нөхцөл байдал үүсч болзошгүйг, мөн эдгээр жолооч нарыг орлож буй хиймэл оюун ухаан орхигдсон болохыг харуулж байна. үнэгүй. Харамсалтай нь хиймэл оюун ухаан аажмаар ижил хэвийсэн хандлагад автаж, хангалттай хамгаалалтын хашлагагүйгээр үүнийг хийх боломжтой.

Энэ нь мөн масштабын асуудалд AI-ийн хэт хазайлтыг харуулж байна.

Хүний жолооч нарын тухайд бид энд тэндгүй хэд хэдэн шударга бус үйлдэл хийж байсан байж болох юм. AI жолоодлогын системийн хувьд энэ нь ихэвчлэн өөрөө жолооддог автомашины бүхэл бүтэн паркад зориулсан ийм нэгдмэл хиймэл оюун ухаан юм. Тиймээс, бид хотод тавин өөрөө жолооддог машинтай (бүгд ижил хиймэл оюун ухаантай кодоор ажилладаг) эхэлж, аажмаар 500 өөрөө жолооддог машин (бүгд ижил AI кодоор ажилладаг) болтлоо нэмэгдсэн байж магадгүй юм. Эдгээр таван зуун автомат жолоодлоготой машинууд бүгд ижил хиймэл оюун ухаанаар ажиллаж байгаа тул тэдгээр нь бүгд ижил хиймэл оюун ухаанд шингэсэн ижил хэвшмэл ойлголт, тэгш бус байдалд хамаарна.

Энэ тал дээр масштаблах нь биднийг хохироодог.

Хоёрдахь жишээ нь хиймэл оюун ухаан нь гудамжаар хөндлөн гарах эрхгүй явган зорчигчдыг хүлээж зогсох эсэхийг тодорхойлох явдал юм.

Та машин жолоодож яваад зам хөндлөн гарахаар хүлээж байсан явган зорчигчидтой тааралдсан нь гарцаагүй. Энэ нь зогсоож, тэднийг хөндлөн гарах эсэхээ өөрөө шийднэ гэсэн үг. Та тэднийг хөндлөн гарахыг зөвшөөрөхгүйгээр цааш явах боломжтой бөгөөд үүнийг хийхдээ хууль ёсны жолоодлогын дүрмийн дагуу бүрэн явж болно.

Ийм явган зорчигчид зогсох эсэхээ хүний ​​жолооч хэрхэн шийддэг талаарх судалгаанаас үзэхэд зарим тохиолдолд хүний ​​​​жолооч нар буруу ойлголтод тулгуурлан сонголтоо хийдэг болохыг харуулж байна. Хүний жолооч явган зорчигчийг нүдээр харж зогсохгүй байж болох ч уг явган зорчигч арьсны өнгө, хүйсээр ялгаатай байсан бол зогсох байсан. Би үүнийг шалгаж үзсэн холбоос энд байна.

Хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинууд нь зорчих эрхгүй явган зорчигчийг зогсоох, зогсоохгүй байх асуудлыг шийдэхэд зориулагдсан гэж төсөөлөөд үз дээ. AI хөгжүүлэгчид энэ ажлыг хэрхэн програмчлахаар шийдсэнийг эндээс үзнэ үү. Тэд хотын эргэн тойронд байрлуулсан видео камеруудаас мэдээлэл цуглуулсан. Уг мэдээлэлд замын хөдөлгөөнд оролцох эрхгүй явган зорчигчид зогсдог хүний ​​жолооч, зогсдоггүй хүний ​​жолооч нарыг харуулсан. Энэ бүгдийг том мэдээллийн санд цуглуулдаг.

Machine Learning болон Deep Learning ашиглан өгөгдлийг тооцооллын аргаар загварчилдаг. AI жолоодлогын систем нь энэ загварыг ашиглан хэзээ зогсох, зогсоохгүй байхыг шийддэг. Ерөнхийдөө орон нутгийн зан заншил юунаас ч бүрдсэн хиймэл оюун ухаан өөрөө жолооддог машиныг ингэж чиглүүлдэг гэсэн санаа юм.

Хотын удирдагчид болон оршин суугчдыг гайхшруулсан нь хиймэл оюун ухаан нь явган хүний ​​гадаад төрх, түүний дотор арьсны өнгө, хүйсийг харгалзан зогсоох эсвэл зогсоохгүй байхыг сонгосон нь илт. Өөрийгөө жолооддог машины мэдрэгчүүд нь хүлээж буй явган зорчигчийг сканнердаж, энэ өгөгдлийг ML/DL загварт оруулж, загвар нь зогсох эсвэл үргэлжлүүлэх эсэхээ хиймэл оюун ухаанд ялгаруулдаг. Харамсалтай нь, тус хотод энэ талаар олон тооны жолоочийн хандлага байсан бөгөөд хиймэл оюун ухаан одоо үүнийг дуурайж байна.

Энэхүү жишээ нь хиймэл оюун ухааны систем нь хүмүүсийн урьд өмнө нь бий болсон таагүй хандлагыг давтаж болохыг харуулж байна. Цаашилбал, үүнийг масштабаар хийдэг. Ямар ч хүний ​​жолооч заримдаа ийм таагүй сонголт хийхийг зааж өгсөн эсвэл биечлэн сонгосон байж болох ч ихэнх жолооч нар үүнийг бөөнөөр нь хийдэггүй байх магадлалтай.

Үүний эсрэгээр, өөрөө жолооддог машиныг жолоодоход ашигладаг хиймэл оюун ухаантай жолоодлогын систем нь түүгээрээ жигшмээр тууштай бөгөөд найдвартай байх магадлалтай.

Дүгнэлт

Сөрөг санаатай эсвэл цаг хугацааны явцад өрөөсгөл ойлголтыг олж авдаг хиймэл оюун ухаан зохион бүтээхээс зайлсхийх олон арга бий. Боломжтой бол өндөр араа руу орохоосоо өмнө асуудлаа шийдэж, хурдыг нэмэгдүүлэх зорилготой. Нэг ёсондоо өрөөсгөл хандлага хаалганаас гарахгүй гэж найдаж байна.

Хиймэл оюун ухаанд ямар нэгэн байдлаар эсвэл өөр хэвийх хандлага гарч ирнэ гэж бодъё. Нэгэнт хиймэл оюун ухааныг асар том хэмжээнд нэвтрүүлсэн бол та "гал ба март" гэсэн түгээмэл тунхаглагдсан техникийн ойлголтуудын аль нэгийг нь хийж чадахгүй. Та AI-ийн хийж байгаа зүйлд хичээнгүйлэн анхаарч, засч залруулах шаардлагатай аливаа сөрөг талыг олж илрүүлэхийг эрэлхийлэх хэрэгтэй.

Өмнө дурьдсанчлан, нэг арга нь AI хөгжүүлэгчид AI-ийн ёс зүйн талаар мэдлэгтэй байх, улмаар эдгээр асуудлаас зайлсхийхийн тулд хиймэл оюун ухааныг програмчлахад түлхэц өгөх явдал юм. Өөр нэг арга зам бол хиймэл оюун ухаан нь ёс зүйгүй үйлдлийг өөрөө хянах ба/эсвэл бусад хиймэл оюун ухааны системийг ёс зүйгүй байж болзошгүй үйлдлийг хянадаг өөр нэг хиймэл оюун ухаантай байх явдал юм. Би зохиолдоо бусад олон боломжит шийдлүүдийг тусгасан.

Одоохондоо эцсийн бодол. Энэхүү хэлэлцүүлгийг Платоны ишлэлээр эхлүүлсэн тул яриагаа Платоны өөр нэг ухаалаг үгээр дуусгах нь зүйтэй болов уу.

Сайн зүйлийг давтахад ямар ч хор хөнөөлгүй гэж Платон хэлсэн.

Хиймэл оюун ухаан өндөр түвшинд хүрсэн үед ийм өөдрөг хүсэл эрмэлзэлд хүрэх боломжтой арга бол хиймэл оюун ухааныг ашиглахад хялбар арга юм. AI For Good төрөл бүрийн. Бид сайн зүйлийг давтахаас илүү амттай байдаг. AI байх үед AI For Bad мөн таагүй өрөөсгөл, тэгш бус байдалаар дүүрэн байгаа тул бид Платоны хэлсэн үгэнд түшиглэн, муу зүйлийг давтах нь асар их хор хөнөөлтэй гэж хэлж болно.

Платоны мэргэн үгсийг анхааралтай сонсож, түүний дагуу хиймэл оюун ухаанаа зохион бүтээцгээе.