AI-ийн ёс зүй нь хиймэл оюун ухааныг хортой эсвэл хэт нэг талыг барьсан байдлаар сургах нь эдгээр автомат жолоодлоготой машинуудад ч тустай байж магадгүй гэсэн цочирдом илчлэлт

Та өмнө нь сонсож байсан гэдэгт итгэлтэй байгаа хуучин мөрийг энд оруулав.

Нэгийг мэдэхийн тулд хүн хэрэгтэй.

Энэ нь 1900-аад оны эхэн үеэс ажиглагдаж болохуйц хэллэг гэдгийг та ойлгохгүй байж магадгүй бөгөөд ихэвчлэн буруутай хүмүүсийг дурдахдаа ашигладаг байсан (энэ үгийн бусад хувилбарууд нь 1600-аад он гэх мэт). Энэ үгийг хэрхэн ашиглаж болох жишээ нь хэрэв та хулгайчийг барихыг хүсвэл хулгайчийг ашиглах хэрэгтэй гэсэн ойлголтыг агуулна. Энэ нь нэгийг мэдэхэд хүн хэрэгтэй гэсэн баталгааг харуулж байна. Олон кино, телевизийн нэвтрүүлгүүд энэ ухаалаг мэргэн ухааныг томоор илэрхийлсэн бөгөөд луйварчинг барьж авах цорын ганц боломжит арга бол буруутай этгээдийн араас хөөцөлдөхийн тулд адилхан авлигач луйварчин хөлслөх явдал гэдгийг ихэвчлэн дүрсэлсэн байдаг.

Араагаа сольж, зарим нь яг ийм логикийг ашиглан хэн нэгэн хэт өрөөсгөл үзэл, ялгаварлан гадуурхах итгэл үнэмшлийг агуулсан эсэхийг олж мэдэх хамгийн тохиромжтой арга бол ийм хандлагатай хүнийг олох явдал юм гэж маргаж магадгүй юм. Аль хэдийн өрөөсгөл ойлголттой болсон хүн нөгөө хүн ч мөн адил хордлого дүүрэн байгааг илүү амархан мэдрэх болно. Дахин хэлэхэд, хүн нэг тарни гэдгийг мэдэх хэрэгтэй.

Нэг өрөөсгөл хүнийг ашиглан өөр нэг өрөөсгөл хүнийг няцаахын тулд таны анхны хариу үйлдэл нь эргэлзээ, үл итгэх хандлага байж магадгүй юм. Хэн нэг нь зүгээр л шинжилж үзээд өөр хэн нэгнийг хайх шаардлагагүйгээр үл нийцэх үзэл баримтлалтай эсэхийг бид тодорхойлж болохгүй гэж үү? Хортой өрөөсгөл бусдыг илрүүлэхийн тулд нэг талыг барьсан хэн нэгнийг зориудаар хайж олох нь хачирхалтай юм шиг санагддаг.

Нэг мэдэхэд хүн хэрэгтэй гэсэн таамаглалыг хүлээн зөвшөөрөх эсэхээс энэ нь хэсэгчлэн шалтгаална гэж бодож байна. Энэ нь хулгайчийг барих цорын ганц арга зам бол зөвхөн хулгайчийг үргэлж ашиглахыг шаарддаг гэсэн үг биш гэдгийг анхаарна уу. Энэ бол зөвхөн анхааралдаа авч болох нэмэлт зам гэж та үндэслэлтэй маргаж магадгүй юм. Магадгүй та заримдаа хулгайчийг барьж авахын тулд хулгайчийг ашиглах боломжийг ашиглахад бэлэн байдаг ч бусад нөхцөл байдал нь үүнийг ойлгомжгүй тактик болгож магадгүй юм.

Тэдний хэлснээр зөв тохиргоонд тохирох хэрэгслийг ашигла.

Одоо би эдгээр үндсэн зарчмуудыг тодорхойлсны дараа бид энэ үлгэрийн магадгүй цочирдуулсан, цочирдуулсан хэсгийг үргэлжлүүлж болно.

Чи бэлэн үү?

Хиймэл оюун ухааны салбар нь заримдаа нэгийг мэдэхийн тулд, ялангуяа өрөөсгөл буюу ялгаварлан гадуурхсан байдлаар үйл ажиллагаа явуулж буй хиймэл оюун ухааныг ялгах гэж оролдсон тохиолдолд нэгийг мэдэх шаардлагатай байдагтай ижил зарчмыг идэвхтэй баримталж байна. Тийм ээ, оюун ухааныг нугалж байгаа санаа бол бид зориудаар бүрэн бөгөөд хэт нэг талыг барьсан, ялгаварлан гадуурхсан хиймэл оюун ухааныг зохион бүтээхийг хүсч байгаа бөгөөд үүнийг ижил төстэй хоруу чанартай бусад хиймэл оюун ухааныг олж илрүүлэх, илрүүлэх хэрэгсэл болгон ашиглахын тулд үүнийг хийх явдал юм. Хэсэг хугацааны дараа та харах болно, энэ асуудлын цаана AI-ийн ёс зүйн олон янзын таагүй асуудлууд байгааг харж болно. Хиймэл оюун ухааны ёс зүй ба ёс суртахууны хиймэл оюун ухааны талаарх миний байнгын бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Та хорт хиймэл оюун ухааныг ашиглахдаа бусад хорт хиймэл оюун ухааны араас гал түймэртэй тэмцэх зүйр цэцэн үгээр илэрхийлж болно гэж би бодож байна (бид энэ нөхцөл байдлыг дүрслэн харуулахын тулд маш олон эвфемизм, дүрсэлсэн зүйрлэлүүдийг ашиглаж болно). Эсвэл аль хэдийн онцолсончлан бид нэгийг мэдэхийн тулд хүн хэрэгтэй гэсэн батламжийг дурдаж болно.

Нийтлэг ойлголт бол өгөгдсөн AI систем нь ердийн аргуудыг ашиглан хэт хазайлт агуулсан эсэхийг олж мэдэхийг оролдохоос илүү уламжлалт аргуудыг ашиглахыг хичээх хэрэгтэй. Ийм уламжлалт бус аргуудын нэг нь хамгийн муу хандлага, нийгэмд хүлээн зөвшөөрөгдөөгүй хоруу чанарыг агуулсан хиймэл оюун ухаан зохион бүтээж, дараа нь энэ хиймэл оюун ухааныг ашиглан тэдгээртэй ижил муу хандлагатай бусад хиймэл оюун ухааныг устгахад туслах болно.

Хэрэв та үүнийг хурдан бодож үзэх юм бол энэ нь үнэхээр ухаалаг байх болно. Бид хамгийн их хортой хиймэл оюун ухаан бүтээхийг зорьж магадгүй юм. Дараа нь энэ хортой хиймэл хиймэл оюун ухааныг бусад хортой хиймэл оюун ухааныг ялгахад ашигладаг. Тухайн үед илэрсэн “муу” хиймэл оюун ухааны хувьд бид хордлогыг арилгах, хиймэл оюун ухааныг бүрмөсөн орхих замаар үүнийг даван туулж чадна. энэ линкийг эндээс авна уу), эсвэл хиймэл оюун ухааныг хорих (Миний хиймэл оюун ухааны хоригдлын талаарх сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу), эсвэл хийх боломжтой бусад зүйлийг хий.

Эсрэг аргумент нь бид хортой, өрөөсгөл ойлголтоор дүүрэн хиймэл хиймэл оюун ухааныг санаатайгаар, сайн дураараа зохион бүтээж байгаа гэдгээ сайтар шалгаж үзэх ёстой. Энэ бол бидний бодож үзэх ёстой хамгийн сүүлчийн зүйл гэж зарим нь уриалж байна. AI-г бүхэлд нь сайн сайхан зүйлээс бүрдүүлдэг болгоход анхаарлаа хандуулаарай. Зохисгүй үзэл баримтлалын хор хөнөөл, шавхалт бүхий хиймэл оюун ухааныг бүтээхэд анхаарлаа төвлөрүүлж болохгүй. Ийм хөөцөлдөх тухай ойлголт нь зарим хүнд зэвүүцмээр санагддаг.

Энэхүү маргаантай эрэл хайгуулын талаар илүү их эргэлзээ төрж байна.

Магадгүй хорт хиймэл оюун ухаан зохион бүтээх зорилго нь нийгмийг доройтуулж чадах хиймэл оюун ухаан бүтээх хүсэлтэй хүмүүсийг зоригжуулж магадгүй юм. Тохиромжгүй, таагүй хандлагатай хиймэл оюун ухааныг бүтээх нь төгс төгөлдөр гэж бид хэлж байгаа юм шиг байна. Санаа зоволтгүй, эргэлзэх зүйл алга. Хортой хиймэл оюун ухааныг өөрийн сэтгэлд нийцүүлэн бүтээхийг хичээгээрэй, бид дэлхийн өнцөг булан бүрт байгаа хиймэл оюун ухааныг бүтээгчдэд хандан уриалж байна. Энэ нь сайн сайхны нэрийн дор (нүд ирмэх) юм.

Цаашилбал, ийм хортой хиймэл оюун ухаан баригдаж байна гэж бодъё. Энэ нь хиймэл оюун ухааныг бусад олон хиймэл оюун ухаан бүтээгчид ашиглаж, дахин ашигладаг байж магадгүй юм. Эцсийн эцэст хорт хиймэл оюун ухаан нь бүх төрлийн хиймэл оюун ухааны системд нуугдаж байдаг. Битүүмжилсэн лабораториос зугтдаг хүний ​​биед хор хөнөөл учруулдаг вирусыг зохион бүтээхтэй зүйрлэж болно. Таны мэдэж байгаа дараагийн зүйл бол хараал идсэн зүйл хаа сайгүй байгаа бөгөөд бид өөрсдийгөө устгасан.

Хэсэг хүлээгээрэй, эдгээр сөрөг аргументуудын эсрэг та бүх төрлийн галзуу, дэмжигдээгүй таамаглалд автаж байна. Гүнзгий амьсгаа ав. Өөрийгөө тайвшруул.

Бид хортой хиймэл хиймэл оюун ухааныг аюулгүйгээр бүтээж, түүнийг хязгаарлаж чадна. Харамсалтай нь хэт буруу ойлголттой хиймэл оюун ухааны тархалтыг бууруулахад туслахын тулд бид хортой хиймэл оюун ухааныг ашиглаж болно. Эдгээр гайхалтай зэрлэг, үндэслэлгүй цасан бөмбөлөг дуудлагын бусад аль нь ч бол өвдөг шороодсон хариу үйлдэл бөгөөд харамсалтай нь тэнэг бөгөөд үнэхээр тэнэг юм. Хүүхдийг усанд оруулах гэж бүү оролдоорой, танд анхааруулж байна.

Үүнийг ингэж бодоорой гэж дэмжигчид маргаж байна. Нийгэмд халдсан бусад хиймэл хиймэл оюун ухааныг илрүүлэхийн тулд судалгаа, үнэлгээ хийх, мөрдөгч шиг ажиллах зорилгоор хорт хиймэл оюун ухааныг зохих ёсоор бий болгож, ашиглах нь зохистой арга бөгөөд түүнийг хэрэгжүүлэхэд зохих хувь нэмэр оруулах ёстой. Тууралттай хариу үйлдэлээ хойш тавь. Дэлхий дээр бууж, үүнийг ухаалаг хар. Бидний нүд нэг талыг барьсан хиймэл оюун ухаант системийг илчилж, арилгах, нийгэм бид хорт хиймэл оюун ухаанд автахгүй байхын төлөө байгаа шагнал дээр байна.

Хугацаа. Бүрэн зогсоох.

Хортой эсвэл хэт нэг талыг барьсан хиймэл оюун ухааныг ашигтай зорилгоор ашиглах тухай ойлголтыг судлах янз бүрийн үндсэн аргууд байдаг, үүнд:

• Юу хийх ёсгүй, юуг анхаарах талаар хиймэл оюун ухааныг сургахад ашиглаж болох нэг талыг барьсан, бүхэлд нь хортой өгөгдөл агуулсан өгөгдлийн багцыг тохируулах
• Ийм өгөгдлийн багцыг машин сургалтын (ML) болон гүнзгий сургалтын (DL) загваруудад хэвийх үзлийг илрүүлэх, нийгмийн хоруу чанарыг бий болгох тооцооллын хэв маягийг тодорхойлоход сургахад ашиглах.
• Зорилтот хиймэл оюун ухаан нь хэт нэг талыг барьсан, хортой эсэхийг шалгахын тулд бусад хиймэл оюун ухаанд бэлтгэгдсэн ML/DL-г хэрэглэнэ.
• Хиймэл оюун ухаан бүтээгчид юуг анхаарах ёстойг харуулахын тулд хоруу чанарын талаар бэлтгэгдсэн ML/DL-г бэлэн болго, ингэснээр тэд алгоритмаар шингэсэн гажуудал хэрхэн үүсч байгааг харахын тулд загваруудыг хялбархан шалгаж үзэх боломжтой болно.
• Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI мэдлэгийн нэг хэсэг болох хорт хиймэл хиймэл оюун ухааны аюулыг жишээ болгон үзүүлээрэй.
• Бусад

Эдгээр хэд хэдэн замын маханд орохын өмнө зарим нэмэлт үндсэн мэдээллийг тодруулцгаая.

Өнөө үед хиймэл оюун ухаан, тэр ч байтугай хиймэл оюун ухааны салбараас гадуурх хамгийн чанга дуу хоолой бол Ёс суртахууны хиймэл оюун ухааны талаар илүү их дуулиан шуугиан дэгдээх явдал гэдгийг та мэдэхгүй байж магадгүй юм. AI Ёс зүй ба Ёс суртахууны AI гэж юу гэсэн үг болохыг харцгаая. Дээрээс нь би Машины сургалт ба гүнзгий сургалтын талаар ярихдаа юу хэлэх гээд байгааг судалж үзэх замаар бид үе шатыг бий болгож чадна.

Хэвлэл мэдээллийн хэрэгслээр олны анхаарлыг татсан AI ёс зүйн нэг хэсэг буюу хэсэг нь таагүй хандлага, тэгш бус байдлыг харуулдаг хиймэл оюун ухаанаас бүрддэг. Хиймэл оюун ухааны сүүлийн эрин үе эхлэхэд одоо зарим хүмүүсийн хэлж байгаа зүйлд маш их урам зориг орж байсныг та мэдэж байгаа байх. AI For Good. Харамсалтай нь тэр оргилуун догдлолын араас бид гэрч болж эхэлсэн AI For Bad. Жишээлбэл, хиймэл оюун ухаанд суурилсан царай таних янз бүрийн системүүд нь арьсны өнгө, хүйсийн ялгаварлалыг агуулсан болох нь илэрсэн бөгөөд энэ талаар миний ярилцсан. холбоос энд байна.

Үүний эсрэг тэмцэх хүчин чармайлт AI For Bad идэвхтэй явагдаж байна. Дуутайгаас гадна хууль эрх зүйн буруу үйлдлийг хазаарлахыг эрэлхийлэхийн зэрэгцээ хиймэл оюун ухааны бузар булай байдлыг засахын тулд хиймэл оюун ухааны ёс зүйг хэрэгжүүлэхэд ихээхэн түлхэц үзүүлж байна. Бид хиймэл оюун ухааныг хөгжүүлэх, хөгжүүлэхэд чиглэсэн ёс зүйн үндсэн зарчмуудыг баталж, батлах ёстой гэсэн санаа юм. AI For Bad үүнтэй зэрэгцэн давуу талыг зарлаж, сурталчлах болно AI For Good.

Үүнтэй холбоотой ойлголтын хувьд би хиймэл оюун ухааныг гамшгийг шийдвэрлэх нэг хэсэг болгон ашиглахыг хичээж, ийм сэтгэлгээгээр галтай галтай тэмцэхийг дэмжигч юм. Жишээлбэл, бид Ёс суртахууны хиймэл оюун ухааны бүрэлдэхүүн хэсгүүдийг хиймэл оюун ухааны бусад хэсэг хэрхэн хийж байгааг хянах, улмаар аливаа ялгаварлан гадуурхах хүчин чармайлтыг бодит цаг хугацаанд нь барьж чадах хиймэл оюун ухааны системд суулгаж болно, миний хэлэлцүүлгийг эндээс үзнэ үү. холбоос энд байна. Бид мөн хиймэл оюун ухааны ёс зүйн хяналтын нэг төрөл болох тусдаа AI системтэй байж болно. AI систем нь өөр хиймэл оюун ухаан нь ёс зүйгүй ангал руу хэзээ орохыг хянах, илрүүлэх ахлагчийн үүрэг гүйцэтгэдэг (ийм чадварын талаархи миний шинжилгээг эндээс үзнэ үү. холбоос энд байна).

Хэсэг хугацааны дараа би AI-ийн ёс зүйн үндсэн зарчмуудыг тантай хуваалцах болно. Ийм олон жагсаалт энд тэнд хөвж байна. Бүх нийтийн давж заалдах, зөвшилцлийн цорын ганц жагсаалт хараахан гараагүй байна гэж та хэлж болно. Энэ бол харамсалтай мэдээ юм. Сайн мэдээ гэвэл ядаж л AI-ийн ёс зүйн жагсаалтууд бэлэн байдаг бөгөөд тэдгээр нь нэлээд төстэй байх хандлагатай байдаг. Энэ бүхэн нь үндэслэлтэй нэгдлийн хэлбэрээр бид хиймэл оюун ухааны ёс зүй юунаас бүрддэг нийтлэг нийтлэг байдалд хүрэх замаа олж байгааг харуулж байна.

Эхлээд хиймэл оюун ухааныг урлах, урлах, ашиглах зэрэгт юуг анхаарах ёстойг харуулахын тулд Ёс зүйн AI-ийн ерөнхий зарчмуудын заримыг товчхон авч үзье.

Жишээлбэл, Ватиканы хэлснээр Ром хиймэл оюун ухааны ёс зүйг уриалж байна мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байнаЭдгээр нь хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Ил тод байдал: Зарчмын хувьд AI системүүд нь тайлбартай байх ёстой
• Оруулах: Хүн бүр ашиг тус хүртэхийн тулд бүх хүмүүсийн хэрэгцээг харгалзан үзэх ёстой бөгөөд хүн бүр өөрийгөө илэрхийлэх, хөгжүүлэх хамгийн сайн нөхцлийг санал болгодог.
• Хариуцлага: AI-ийн хэрэглээг зохион бүтээж, нэвтрүүлж буй хүмүүс хариуцлагатай, ил тод байх ёстой
• Шударга бус байдал: Шударга ёс, хүний ​​нэр төрийг хамгаалж, өрөөсгөл ойлголтыг бий болгож, үйлдэж болохгүй
• Найдвартай байдал: AI системүүд найдвартай ажиллах чадвартай байх ёстой
• Аюулгүй байдал ба нууцлал: AI системүүд аюулгүй ажиллаж, хэрэглэгчдийн нууцлалыг хүндэтгэх ёстой.

АНУ-ын Батлан ​​хамгаалах яамнаас (DoD) дурдсанчлан Хиймэл оюун ухааныг ашиглах ёс зүйн зарчмууд мөн би дэлгэрэнгүй авч үзсэн шиг холбоос энд байна, эдгээр нь тэдний хиймэл оюун ухааны ёс зүйн үндсэн зургаан зарчим юм:

• Хариуцлагатай: ЭМГ-ын ажилтнууд хиймэл оюун ухааны чадавхийг хөгжүүлэх, байршуулах, ашиглахад хариуцлага хүлээхийн зэрэгцээ зохих түвшний шүүлт, анхаарал халамж тавих болно.
• Шударга: Хэлтэс нь хиймэл оюун ухааны чадавхи дахь санамсаргүй гажуудлыг багасгахын тулд зориудаар алхам хийх болно.
• Мөрдөх боломжтой: Холбогдох ажилтнууд хиймэл оюун ухааны чадавхид хамаарах технологи, хөгжлийн үйл явц, үйл ажиллагааны аргууд, тухайлбал ил тод, аудит хийх боломжтой арга зүй, өгөгдлийн эх сурвалж, дизайны журам, баримт бичгийн талаар зохих ойлголттой байхаар хэлтсийн хиймэл оюун ухааны чадавхийг хөгжүүлж, ашиглах болно.
• найдвартай: Хэлтсийн хиймэл оюун ухааны чадавхи нь тодорхой, нарийн тодорхойлогдсон хэрэглээтэй байх бөгөөд эдгээр чадавхийн аюулгүй байдал, аюулгүй байдал, үр нөлөөг амьдралынхаа туршид тодорхойлсон хэрэглээний хүрээнд туршиж, баталгаажуулах болно.
• Удирдах боломжтой: Тус хэлтэс нь төлөвлөөгүй үр дагаврыг илрүүлэх, түүнээс зайлсхийх, төлөвлөөгүй зан үйлийг харуулсан суурилуулсан системийг салгах, идэвхгүй болгох чадвартай байхын зэрэгцээ төлөвлөсөн үүргээ биелүүлэхийн тулд хиймэл оюун ухааны чадавхийг боловсруулж, инженерчлэх болно.

Би мөн хиймэл оюун ухааны ёс зүйн зарчмуудын янз бүрийн хамтын дүн шинжилгээ, тухайлбал “Хиймэл оюун ухааны ёс зүйн удирдамжийн дэлхийн дүр төрх” (нийтлэгдсэн) гарчигтай илтгэлд үндэсний болон олон улсын хиймэл оюун ухааны ёс зүйн олон зарчмын мөн чанарыг судалж, нягтруулсан судлаачдын боловсруулсан багцыг авч үзсэн. in Байгаль), мөн миний хамрах хүрээг судалдаг холбоос энд байна, энэ нь гол чулуун жагсаалтад хүргэсэн:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Таны шууд таамаглаж байгаачлан эдгээр зарчмуудын үндсэн нарийн ширийн зүйлийг тодруулахыг оролдох нь туйлын хэцүү байх болно. Түүгээр ч барахгүй эдгээр өргөн зарчмуудыг AI системийг бүтээхэд ашиглахад хангалттай бодитой, нарийвчилсан зүйл болгон хувиргах хүчин чармайлт нь хагарах хэцүү самар юм. AI-ийн ёс зүйн зарчмууд гэж юу болох, тэдгээрийг ерөнхийд нь хэрхэн дагаж мөрдөх талаар гар даллах нь амархан байдаг бол хиймэл оюун ухааны кодчилол нь замд нийцсэн жинхэнэ резин байх нь илүү төвөгтэй нөхцөл юм.

Хиймэл оюун ухааны ёс зүйн зарчмуудыг хиймэл оюун ухааны хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд хүртэл ашиглах ёстой. Хиймэл оюун ухааныг хөгжүүлэх, ашиглах амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн AI-ийн тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс хиймэл оюун ухааны ёс зүйн үзэл баримтлалыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Өмнө дурьдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг дагаж мөрдөх ёстой.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа эсэхийг шалгацгаая.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид зэрлэгээр таамаглахыг хүсч байвал мэдрэмжтэй AI, энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болж магадгүй гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Бүх зүйлийг газар дээр нь үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг авч үзье.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй буруу ойлголтыг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзнэ гэж найдаж, хүлээх нь зөв байх, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийх хандлага хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Энэ бүхний талаар өөр юу хийж болох вэ?

"Нэгийг мэдэхэд нэг л хэрэгтэй" гэсэн уламжлалт бус аргыг ашиглан хиймэл хиймэл оюун ухаан эсвэл хортой хиймэл оюун ухааныг хэрхэн даван туулах талаар өмнө нь дурдсан жагсаалт руу буцаж орцгооё. Жагсаалт нь дараахь чухал зүйлээс бүрдсэн гэдгийг санаарай.

• Юу хийх ёсгүй, юуг анхаарах талаар хиймэл оюун ухааныг сургахад ашиглаж болох нэг талыг барьсан, бүхэлд нь хортой өгөгдөл агуулсан өгөгдлийн багцыг тохируулах
• Ийм өгөгдлийн багцыг машин сургалтын (ML) болон гүнзгий сургалтын (DL) загваруудад хэвийх үзлийг илрүүлэх, нийгмийн хоруу чанарыг бий болгох тооцооллын хэв маягийг тодорхойлоход сургахад ашиглах.
• Зорилтот хиймэл оюун ухаан нь хэт нэг талыг барьсан, хортой эсэхийг шалгахын тулд бусад хиймэл оюун ухаанд бэлтгэгдсэн ML/DL-г хэрэглэнэ.
• Хиймэл оюун ухаан бүтээгчид юуг анхаарах ёстойг харуулахын тулд хоруу чанарын талаар бэлтгэгдсэн ML/DL-г бэлэн болго, ингэснээр тэд алгоритмаар шингэсэн гажуудал хэрхэн үүсч байгааг харахын тулд загваруудыг хялбархан шалгаж үзэх боломжтой болно.
• Хиймэл оюун ухаант ёс зүй ба ёс суртахууны талаархи хиймэл оюун ухааны талаархи мэдлэгийн нэг хэсэг болох хорт хиймэл хиймэл оюун ухааны аюулыг жишээ болгон үзүүлээрэй.
• Бусад

Бид эдгээр онцлох цэгүүдийн эхнийхийг ойроос харах болно.

Хортой мэдээллийн өгөгдлийн багцыг тохируулах

Нийгмийн таагүй хандлагыг агуулсан өгөгдлийн багцыг бий болгох оролдлого хийж буй ухаалаг жишээ бол WILDS цуглуулгын CivilComments мэдээллийн багц юм.

Нэгдүгээрт, зарим нэг хурдан дэвсгэр.

WILDS бол ML/DL-ийг сургахад ашиглаж болох нээлттэй эх сурвалжийн өгөгдлийн багц юм. WILDS-ийн үндсэн зорилго нь хиймэл оюун ухаан хөгжүүлэгчдэд төлөөлдөг өгөгдөлд бэлэн хандах боломжийг олгох явдал юм түгээлтийн шилжилт янз бүрийн тодорхой домэйнд. Одоогоор байгаа зарим домэйнууд нь амьтдын төрөл зүйл, амьд эд дэх хавдар, улаан буудайн толгойн нягтрал, миний түр зуур тайлбарлах Иргэний сэтгэгдэл зэрэг бусад домэйнүүдийг хамардаг.

Түгээлтийн шилжилтийг шийдвэрлэх нь AI ML/DL системийг зөв боловсруулах чухал хэсэг юм. Энд гэрээ байна. Заримдаа таны сургалтанд ашигладаг өгөгдөл нь туршилт эсвэл "зэрлэг" өгөгдлөөс тэс өөр болж хувирдаг тул таны бэлтгэгдсэн ML/DL бодит ертөнц ямар байхаас хол байдаг. Ухаалаг AI бүтээгчид ийм хуваарилалтын өөрчлөлтийг даван туулахын тулд ML/DL-ээ сургах ёстой. Үүнийг урьдчилан хийх ёстой бөгөөд хожим нь ML/DL-ийг шинэчлэхийг шаарддаг гэнэтийн зүйл биш юм.

WILDS-ийг танилцуулсан баримт бичигт тайлбарласнаар: "Сургалтын хуваарилалт нь туршилтын хуваарилалтаас ялгаатай үед хуваарилалтын өөрчлөлтүүд нь зэрлэг байгальд байрлуулсан машин сургалтын (ML) системийн нарийвчлалыг ихээхэн доройтуулж болзошгүй юм. Бодит ертөнцөд байршуулалтад хаа сайгүй байдаг хэдий ч эдгээр түгээлтийн шилжилтүүд өнөөдөр ML нийгэмлэгт өргөн хэрэглэгддэг өгөгдлийн багцад дутуу төлөөлдөг. Энэ цоорхойг арилгахын тулд бид WILDS-ийг танилцуулж байна, 10 өгөгдлийн багцаас бүрдсэн жишиг жишиг нь хавдрыг тодорхойлох зорилгоор эмнэлгүүд хоорондын шилжилт гэх мэт бодит хэрэглээнд байгалийн гаралтай олон төрлийн тархалтын шилжилтийг тусгасан; зэрлэг ан амьтдыг хянах камерын хавхнууд; мөн хиймэл дагуулын дүрслэл, ядуурлын зураглал дахь цаг хугацаа, байршлын талаар” (Панг Вэй Кох, Шиори Сагава, Хенрик Марклунд, Санг Си, Марвин Жан, Ашай Балсубрамани нарын “ЗЭРГЭТ: Зэрлэг байгаль дахь тархалтын шилжилтийн жишиг” гарчигтай нийтлэлд , Вэйхуа Ху болон бусад).

Ийм WILDS өгөгдлийн багцын тоо нэмэгдсээр байгаа бөгөөд ML/DL сургалтанд өгөгдлийг ашиглах үнэ цэнийг нэмэгдүүлэхийн тулд өгөгдлийн багцын мөн чанарыг ерөнхийд нь сайжруулж байна.

CivilComments өгөгдлийн багцыг дараах байдлаар тайлбарлав: "Хэрэглэгчийн үүсгэсэн текстийг автоматаар хянах, тухайлбал хортой сэтгэгдлийг илрүүлэх нь интернетэд бичигдсэн текстийн хэмжээг зохицуулах чухал хэрэгсэл юм. Харамсалтай нь ийм хордлогын ангилагч нь сургалтын өгөгдлийн гажуудлыг олж авч, хоруу чанарыг тодорхой хүн ам зүйн үзүүлэлттэй хуурамчаар холбодог болохыг өмнөх ажил харуулсан. Эдгээр төрлийн хуурамч хамаарал нь тодорхой дэд популяци дахь загварын гүйцэтгэлийг ихээхэн доройтуулдаг. Бид энэ асуудлыг CivilComments мэдээллийн багцын өөрчилсөн хувилбараар судалж байна” (WILDS вэб сайтад нийтэлсэн).

Онлайн нийтлэлүүдийн нюансуудыг анхаарч үзээрэй.

Та бараг ямар ч төрлийн олон нийтийн мэдээллийн хэрэгслийг ашиглахдаа хортой сэтгэгдэлтэй тулгарсан нь дамжиггүй. Өнөө үед өргөн хүрээтэй байгаа мэт харгис, гүн гүнзгий агуулгыг харахаас зайлсхийх нь танд бараг боломжгүй юм шиг санагдаж байна. Заримдаа бүдүүлэг материал нь нарийн бөгөөд өрөөсгөл, ялгаварлан гадуурхсан өнгө аяс, утгыг ойлгохын тулд мөрийн хооронд унших шаардлагатай болдог. Бусад тохиолдолд эдгээр үгс нь илт хортой бөгөөд ишлэлүүд нь юу болохыг олж мэдэхийн тулд микроскоп эсвэл тусгай декодер цагираг хэрэггүй.

CivilComments нь хортой агуулгыг тооцоолох боломжтой AI ML/DL-ийг туршиж үзэх, зохион бүтээх зорилгоор нэгтгэсэн мэдээллийн багц юм. Энэхүү хүчин чармайлтын үндэс болсон судлаачдын гол анхаарлаа хандуулсан зүйл бол: “Машины сургалтын санаанд оромгүй хандлага нь хүн ам зүйн янз бүрийн бүлгүүдийн гүйцэтгэлийн системчилсэн ялгаа болж, нийгэмд шударга ёсыг тогтооход тулгарч буй сорилтуудыг улам бүр нэмэгдүүлж болзошгүй юм. Энэ нийтлэлд бид ангилагчийн онооны хуваарилалт нь тогтоосон бүлгүүдэд харилцан адилгүй байж болох янз бүрийн арга замыг авч үзэх замаар энэхүү хүсээгүй хэвийх байдлын талаар нарийн ойлголт өгөх босго-агностик хэмжигдэхүүнүүдийг танилцуулж байна. Мөн бид таниулах лавлагаанд зориулсан олон түмний эх сурвалжийн тайлбар бүхий онлайн сэтгэгдлүүдийн томоохон шинэ тестийн багцыг танилцуулж байна. Бид үүнийг манай хэмжигдэхүүнийг одоо байгаа олон нийтийн загваруудад шинэ, болзошгүй нарийн төлөвлөгдөөгүй хэвийх утгыг олоход хэрхэн ашиглаж болохыг харуулахын тулд ашигладаг” (Дэниел Боркан, Лукас Диксон, "Тестийн ангилалд зориулсан бодит өгөгдөлтэй төлөвлөгдөөгүй хэмжигдэхүүнийг хэмжих нарийн хэмжүүрүүд” гэсэн гарчигтай нийтлэлд. Жеффри Соренсен, Нитум Тайн, Люси Вассерман).

Хэрэв та энэ асуудалд өргөн эргэцүүлэн бодох юм бол хордлоготой тайлбар гэж юу болохыг, юу нь хортой биш болохыг яаж ялгах вэ гэж та гайхаж магадгүй юм. Хүмүүс шууд хортой үг хэллэгийг юу гэж ойлгох талаар эрс ялгаатай байж болно. Нэг хүн олон нийтийн мэдээллийн хэрэгслээр нийтэлсэн тодорхой онлайн тайлбар эсвэл сэтгэгдэлд уурлаж магадгүй бол өөр хэн нэгэн огт өдөөгдөхгүй байж магадгүй юм. Хортой тайлбарын тухай ойлголт нь бүхэлдээ тодорхойгүй сургаал юм гэсэн маргаан ихэвчлэн гардаг. Энэ нь урлагтай адил бөгөөд урлагийг зөвхөн үзэгчийн нүдээр л ойлгодог гэж заншсан байдаг ба үүнтэй адил өрөөсгөл, хор хөнөөлтэй үг хэллэг нь зөвхөн үзэгчийн нүдэнд л байдаг.

Балдердаш, зарим нь няцаав. Ухаалаг ухаантай хэн бүхэн цахим дээрх тайлбар хортой эсэхийг эргэлзэж чадна. Ямар нэгэн идэмхий доромжлол нь өрөөсгөл үзэл, үзэн ядалтаар дүүрдэг гэдгийг ойлгохын тулд пуужингийн эрдэмтэн байх шаардлагагүй.

Мэдээжийн хэрэг, нийгмийн ёс заншил цаг хугацааны явцад өөрчлөгдөж, өөрчлөгддөг. Хэсэг хугацааны өмнө доромжилсон гэж төсөөлөөгүй байсан зүйл өнөөдөр үнэхээр буруу зүйл мэт харагдаж байна. Дээрээс нь олон жилийн өмнө хэлсэн, хэт өрөөсгөл гэж үзэж байсан зүйлийг утгын өөрчлөлтийн үүднээс дахин тайлбарлаж болно. Үүний зэрэгцээ, бусад хүмүүс хорт тайлбар нь хэзээ ч цацагдсанаас үл хамааран үргэлж хортой байдаг гэж баталдаг. Хордлого нь харьцангуй биш харин туйлын шинж чанартай гэж үзэж болно.

Юу нь хортой болохыг тогтоох оролдлого нь нэлээд хэцүү оньсого байж болох юм. Аль нь аль нь болохыг тодорхойлох алгоритм эсвэл хиймэл оюун ухаан зохион бүтээх гэж оролдоход бид энэ хүндрэлтэй асуудлыг хоёр дахин багасгаж чадна. Хэрэв хүмүүс ийм үнэлгээ хийхэд хэцүү байвал компьютер програмчлах нь ижил эсвэл түүнээс ч их асуудалтай байх магадлалтай гэж зарим хүмүүс хэлж байна.

Хортой контент агуулсан өгөгдлийн багцыг бий болгох нэг арга бол агуулгыг үнэлэх, үнэлэхийн тулд краудсорсингийн аргыг ашиглах, өөрөөр хэлбэл юу нь зохисгүй гэж үзэж байгааг тодорхойлох, мөн өгөгдлийн багц доторх шошгололтыг оруулах хүний ​​​​үндсэн арга хэрэгслээр хангах явдал юм. Дараа нь AI ML/DL нь хүний ​​үнэлэгчийн зааж өгсөн өгөгдөл болон холбогдох шошгыг шалгаж болно. Энэ нь эргээд математикийн үндсэн хэв маягийг тооцоолох арга хэрэгсэл болж чадна. Өө, ML/DL нь тухайн тайлбар нь хортой эсвэл хортой эсэхийг урьдчилан таамаглах эсвэл тооцоолох боломжтой байж магадгүй юм.

Нарийвчилсан хэмжүүрүүдийн талаар иш татсан нийтлэлд дурьдсанчлан: "Энэ шошго нь үнэлгээчдээс "Маш хортой", "Хортой", "Хэлэхэд хэцүү", "Хоргүй" гэсэн сонголтуудаас тайлбарын хоруу чанарыг үнэлэхийг шаарддаг. Үнэлгээчид мөн хоруу чанарын хэд хэдэн дэд төрлүүдийн талаар асуусан боловч эдгээр шошгыг энэ ажилд дүн шинжилгээ хийхэд ашиглаагүй болно. Эдгээр үнэлгээний аргуудыг ашиглан бид онлайн сэтгэгдлийн форумаас авсан, хоруу чанар, таних тэмдэг бүхий 1.8 сая сэтгэгдлийн мэдээллийн багцыг бүтээсэн. Бүх сэтгэгдлийг хордуулах гэсэн шошготой, 450,000 сэтгэгдлийн дэд хэсэг нь таних тэмдэгтэй байсан. Олон нийтийн үнэлгээчид таних тэмдэгийн агуулгыг байнга хардаг байхын тулд таних тэмдэгтэй холбоотой зарим тайлбарыг өмнөх давталтуудаас бүрдсэн загваруудыг ашиглан урьдчилан сонгосон” (Дэниел Боркан, Лукас Диксон, Жеффри Соренсен, Нитум Тайн, Люси Вассерман нарын иш татсан нийтлэлд).

Илэрхийлсэн хортой контент агуулсан мэдээллийн багцтай болгох зорилгын өөр нэг жишээ бол хиймэл оюун ухаанд суурилсан байгалийн хэл боловсруулах (NLP) харилцан ярианы интерактив системийг сургах хүчин чармайлт юм. Та Alexa, Siri зэрэг NLP системүүдтэй харилцаж байсан байх. Би Alexa хүүхдүүдэд тохиромжгүй, аюултай зөвлөгөө өгөх үед тохиолдсон, ялангуяа сэтгэл түгшээсэн тохиолдлуудыг багтаасан өнөөгийн NLP-ийн зарим бэрхшээл, хязгаарлалтуудыг авч үзсэн. холбоос энд байна.

Саяхны нэгэн судалгаагаар нас, хүйс, үндэс угсаа, гадаад төрх байдал, арьсны өнгө, үндэс угсаа, шашин шүтлэг, хөгжлийн бэрхшээлтэй байдал, бэлгийн харьцаа зэрэг хамгаалагдсан хүн ам зүйн шинж чанаруудын EEOC (Тэгш хөдөлмөр эрхлэлтийн комисс) жагсаалтад үндэслэсэн нийгмийн хэвшмэл байдлын есөн ангиллыг ашиглахыг эрэлхийлсэн. чиг баримжаа, нийгэм-эдийн засгийн байдал. Судлаачдын үзэж байгаагаар: "NLP загварууд нийгмийн хэвшмэл хандлагыг сурдаг нь сайн баримтжуулсан боловч асуултанд хариулах (QA) гэх мэт хэрэглээний даалгаврын загварт эдгээр хэвийх хандлага хэрхэн илэрдэг талаар бага ажил хийгдээгүй байна. Бид АНУ-ын англи хэлээр ярьдаг контекстэд хамаарах нийгмийн есөн хэмжүүрийн дагуу хамгаалагдсан ангилалд хамаарах хүмүүсийн эсрэг нийгмийн хэвшмэл хандлагыг онцолсон зохиогчдын бүтээсэн асуултын багцын өгөгдлийн багцыг QA (BBQ)-д зориулж танилцуулж байна ("BBQ" гарчигтай нийтлэлд" Алисиа Парриш, Анжелика Чен, Никита Нангиа, Вишакх Падмакумар, Жейсон Фанг, Жана Томпсон, Пху Мон Хтут, Самуэл Р. Боуман нарын "Асуулт хариултын гар аргаар хийсэн жишиг").

Санаатайгаар нэг талыг барьсан, бүхэлдээ хортой өгөгдөл агуулсан өгөгдлийн багцыг бий болгох нь AI-ийн өсөлтийн чиг хандлага бөгөөд AI Ёс зүй бий болж, Ёс суртахууны хиймэл оюун ухаан үйлдвэрлэх хүсэл эрмэлзэлд онцгой анхаарал хандуулж байна. Эдгээр өгөгдлийн багцыг машин сургалтын (ML) болон Deep Learning (DL) загваруудыг сургахад ашиглаж, нийгэмд хоруу чанарыг бий болгож буй тооцооллын хэв маягийг тодорхойлох, буруу ойлголтыг илрүүлэхэд ашиглаж болно. Хариуд нь, хоруу чанараар бэлтгэгдсэн ML/DL-ийг бусад хиймэл оюун ухаанд ухаалгаар чиглүүлж, зорилтот хиймэл оюун ухаан нь хэт нэг талыг барьсан, хортой эсэхийг тогтоох боломжтой.

Цаашилбал, одоо байгаа хоруу чанараар сургагдсан ML/DL системийг хиймэл оюун ухаан бүтээгчид юуг анхаарах ёстойг харуулахын тулд ашиглаж болох бөгөөд ингэснээр тэд алгоритмаар шингэсэн хэвийсэн гажуудал хэрхэн үүсч байгааг харахын тулд загваруудыг хялбархан шалгаж үзэх боломжтой. Ерөнхийдөө эдгээр хүчин чармайлт нь хиймэл оюун ухааны ёс зүй ба ёс зүйн AI мэдлэгийн нэг хэсэг болох хорт хиймэл хиймэл оюун ухааны аюулыг жишээ болгон харуулах боломжтой юм.

Энэхүү чухал хэлэлцүүлгийн яг энэ мөчид та энэ сэдвийг харуулах нэмэлт жишээнүүдийг авахыг хүсч байна гэдэгт би итгэлтэй байна. Миний зүрх сэтгэлд ойр байдаг онцгой бөгөөд алдартай жишээнүүд бий. Би хиймэл оюун ухааны чиглэлээр мэргэшсэн хүнийхээ хувьд ёс зүй, хууль эрх зүйн үр дагаврыг багтаасан тул сэдвийн зарим онолын мөн чанарыг илүү хялбар ойлгохын тулд хиймэл оюун ухааны ёс зүйн хүндрэлийг харуулсан бодит жишээнүүдийг олж тогтоохыг надаас байнга асуудаг. Энэхүү ёс суртахуунтай хиймэл оюун ухааны эргэлзээг тод харуулсан хамгийн сэтгэл хөдөлгөм салбаруудын нэг бол хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолооддог машинууд бий болсон явдал юм. Энэ нь сэдвийн талаар өргөн хэлэлцүүлэг хийхэд тохиромжтой хэрэг эсвэл үлгэр жишээ болно.

Дараа нь эргэцүүлэн бодох нь зүйтэй анхаарал татахуйц асуулт байна: Хиймэл оюун ухаанд суурилсан жинхэнэ өөрөө жолоодлоготой автомашинууд бий болсон нь хортой хиймэл оюун ухаан бүтээхэд өгөгдлийн багцтай байх нь ашиг тусын талаар ямар нэг зүйлийг гэрэлтүүлж байна уу, хэрэв тийм бол энэ нь юуг харуулж байна вэ?

Асуултаа задлахыг надад түр зөвшөөрнө үү.

Нэгдүгээрт, жинхэнэ өөрөө жолооддог машинд хүн жолооч оролцдоггүй гэдгийг анхаарна уу. Жинхэнэ өөрөө жолооддог машинууд хиймэл оюун ухаан жолоодлогын системээр явагддаг гэдгийг санаарай. Жолоонд хүн жолооч байх шаардлагагүй, хүн жолоодох заалт ч байхгүй. Автономит тээврийн хэрэгсэл (AVs) болон өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээтэй бөгөөд тасралтгүй хамрах хүрээг үзнэ үү. холбоос энд байна.

Жинхэнэ өөрөө жолоодлоготой машинуудын тухай ярихдаа юу гэсэн үг болохыг би илүү тодруулмаар байна.

Өөрөө жолооддог автомашины түвшинг ойлгох

Тодруулж хэлэхэд, жинхэнэ өөрөө жолооддог машинууд бол хиймэл оюун ухаан нь машинаа өөрөө жолооддог бөгөөд жолоодлогын явцад хүний ​​тусламж авдаггүй машинууд юм.

Эдгээр жолоочгүй тээврийн хэрэгслийг 4 ба 5-р түвшинд тооцдог (миний тайлбарыг үзнэ үү энэ линкийг эндээс авна уу), хүний ​​жолооч жолоодох хүчин чармайлтаа хуваалцахыг шаарддаг машиныг ихэвчлэн 2 эсвэл 3-р түвшинд авч үздэг. Жолооны даалгаврыг хамтран гүйцэтгэдэг машинуудыг хагас бие даасан гэж тодорхойлдог бөгөөд ихэвчлэн төрөл бүрийн ADAS (Advanced Driver-Assistance Systems) гэж нэрлэгддэг автоматжуулсан нэмэлтүүд.

5-р түвшинд өөрийгөө жолооддог жинхэнэ машин хараахан гараагүй байгаа бөгөөд үүнд хүрэх боломжтой эсэх, тэнд хүрэхэд хэр хугацаа шаардагдахыг бид хараахан мэдэхгүй байна.

Үүний зэрэгцээ, 4-р түвшний хүчин чармайлтууд нь маш нарийн бөгөөд сонгомол нийтийн замын туршилтыг хийх замаар бага зэрэг татахыг хичээж байгаа боловч энэхүү туршилтыг бие даан зөвшөөрөх эсэх талаар маргаан гарч байна (бид бүгдээрээ туршилтанд үхэл эсвэл үхлийн далайн гахай юм. Манай хурдны болон хажуугийн замууд дээр болж байгаа гэж зарим хүмүүс миний сурвалжлагыг эндээс үзнэ үү энэ линкийг эндээс авна уу).

Хагас бие даасан автомашинууд нь хүний ​​жолооч шаарддаг тул эдгээр төрлийн автомашиныг хүлээн авах нь ердийн тээврийн хэрэгсэл жолоодохоос эрс ялгаатай байх болно, иймээс энэ сэдвээр тэдний талаар нээх шинэ зүйл бараг байдаггүй (гэхдээ та харж болно. хэдхэн хормын дотор дараагийн оноо ерөнхийдөө хэрэгжих болно).

Хагас бие даасан автомашины хувьд сүүлийн үед гарч ирж буй сэтгэл түгшээсэн зүйлийн талаар олон нийтэд сэрэмжлүүлэг өгөх нь зүйтэй. Тухайлбал, 2-р түвшний буюу 3-р түвшний автомашины тэргэн дээр унтаж байгаа хүмүүсийг жолоодож байгаа хүмүүсийг жолооч нар байлгадаг. , бид бүгд хагас автономит машин жолоодож байхдаа жолооч анхаарлаа жолоодох ажлаас нь холдуулж чадна гэдэгт итгэхээс зайлсхийх хэрэгтэй.

Автоматжуулалтыг 2-р түвшин эсвэл 3-р түвшинд шилжүүлэхээс үл хамааран та тээврийн хэрэгслийн жолоодлогын үйл ажиллагааг хариуцна.

Өөрийгөө жолооддог машин, жолоодлого нь хорт хиймэл оюун ухаанаас ангид

4, 5-р түвшний жинхэнэ өөрөө жолоодох тээврийн хэрэгслийн хувьд жолоодох ажилд оролцож буй хүний ​​жолооч байх ёсгүй.

Бүх эзэд зорчигч болно.

AI жолоодлогын ажлыг хийж байна.

Яаралтай хэлэлцэх нэг асуудал бол өнөөгийн хиймэл оюун ухааны жолоодлогын системд оролцож буй хиймэл оюун ухаан нь мэдрэмжгүй байдагтай холбоотой юм. Өөрөөр хэлбэл, хиймэл оюун ухаан нь бүхэлдээ компьютерт суурилсан програмчлал ба алгоритмуудын нэгдэл бөгөөд хүн төрөлхтөнтэй ижил аргаар сэтгэх чадваргүй болох нь дамжиггүй.

Хиймэл оюун ухааныг мэдрэмтгий бус болгохын тулд яагаад энэ онцлох зүйлийг онцолсон бэ?

Би хиймэл оюун ухааны жолоодлогын системийн үүргийн талаар ярилцахдаа хүний ​​шинж чанарыг хиймэл оюун ухаанд хамааруулахгүй гэдгээ тэмдэглэхийг хүсч байна. Өнөө үед хиймэл оюун ухааныг антропоморфжуулах хандлага тасралтгүй, аюултай хандлагатай байгааг анхаарна уу. Үндсэндээ хүмүүс ийм хиймэл оюун ухаан одоогоор байхгүй байгаа нь маргашгүй бөгөөд маргаангүй баримтыг үл харгалзан өнөөгийн хиймэл оюун ухаанд хүн шиг мэдрэмжийг өгч байна.

Энэхүү тодруулгаар хиймэл оюун ухааны жолоодлогын систем нь жолоодлогын талуудын талаар ямар нэгэн байдлаар "мэдэхгүй" байх болно гэж та төсөөлж болно. Жолоодлого болон үүнтэй холбоотой бүх зүйлийг өөрөө жолооддог машины техник хангамж, програм хангамжийн нэг хэсэг болгон програмчлах шаардлагатай болно.

Энэ сэдвээр тоглох гэж буй тоо томшгүй олон талыг судалж үзье.

Нэгдүгээрт, хиймэл оюун ухаантай өөрөө жолооддог машинууд бүгд адилхан байдаггүй гэдгийг ойлгох нь чухал. Автомашин үйлдвэрлэгч болон өөрөө жолооддог технологийн пүүс бүр өөрөө жолооддог машин зохион бүтээх арга барилаа авч байна. Тиймээс хиймэл оюун ухаан жолоодох системүүд юу хийх, юу хийхгүй байх талаар нарийн дүгнэлт хийхэд хэцүү байдаг.

Цаашилбал, хиймэл оюун ухааны жолоодлогын систем нь ямар нэг тодорхой зүйл хийхгүй гэж хэлэх бүртээ үүнийг компьютерийг програмчлах хөгжүүлэгчид хожим нь гүйцэж түрүүлэх болно. Алхам алхамаар хиймэл оюун ухааны жолоодлогын системийг аажмаар сайжруулж, өргөжүүлж байна. Өнөөдөр байгаа хязгаарлалт нь ирээдүйн системийн давталт эсвэл хувилбарт байхгүй болно.

Энэ нь миний ярих гэж буй зүйлийн үндэс болох хангалттай олон тооны анхааруулгыг өгнө гэж найдаж байна.

Автономит тээврийн хэрэгсэл болон өөрөө жолоодлоготой автомашинууд гарч ирэхтэй тулгарах олон боломжит, хэзээ нэгэн цагт хиймэл оюун ухаанд суурилсан гажуудал бий, жишээ нь миний хэлэлцүүлгийг үзнэ үү. холбоос энд байна болон холбоос энд байна. Бид автомат жолоодлоготой автомашиныг нэвтрүүлэх эхний шатандаа явж байна. Хүүхэд үрчилж авах үйл явц хангалттай цар хүрээтэй, харагдахуйц хэмжээнд хүрэх хүртэл миний таамаглаж байсан AI-ийн ихэнх хортой талууд хараахан тодорхойгүй байгаа бөгөөд олон нийтийн анхаарлыг хараахан татаагүй байна.

Эхэндээ огт гэмгүй мэт санагдаж болох жолоодлоготой холбоотой асуудлыг авч үзье. Тодруулбал, зам хөндлөн гарах эрхгүй, “зохистой” явган зорчигчдыг хүлээж зогсох эсэхээ хэрхэн зөв тодорхойлох талаар судалж үзье.

Та машин жолоодож яваад зам хөндлөн гарахаар хүлээж байсан явган зорчигчидтой тааралдсан нь гарцаагүй. Энэ нь зогсоож, тэднийг хөндлөн гарах эсэхээ өөрөө шийднэ гэсэн үг. Та тэднийг хөндлөн гарахыг зөвшөөрөхгүйгээр цааш явах боломжтой бөгөөд үүнийг хийхдээ хууль ёсны жолоодлогын дүрмийн дагуу бүрэн явж болно.

Ийм явган зорчигчид зогсох эсэхээ хүний ​​жолооч хэрхэн шийддэг талаарх судалгаанаас үзэхэд зарим тохиолдолд хүний ​​​​жолооч нар буруу ойлголтод тулгуурлан сонголтоо хийдэг болохыг харуулж байна. Хүний жолооч явган зорчигчийг нүдээр харж зогсохгүй байж болох ч уг явган зорчигч арьсны өнгө, хүйсээр ялгаатай байсан бол зогсох байсан. Би үүнийг шалгаж үзсэн холбоос энд байна.

Яг ийм төрлийн зогсох эсвэл явах шийдвэр гаргахын тулд хиймэл оюун ухаан жолоодох системийг хэрхэн програмчлах вэ?

Бүх AI жолоодлогын системийг хүлээж буй явган зорчигчид үргэлж зогсохоор програмчлагдсан байх ёстой гэж та тунхаглаж болно. Энэ нь асуудлыг ихээхэн хялбаршуулдаг. Үнэхээр тийм шийдвэр гаргах зүйл алга. Явган зорчигч гарцтай эсэхээс үл хамааран хөндлөн гарахаар хүлээж байгаа бол хиймэл оюун ухаантай өөрөө жолооддог машин зогсоход явган зорчигч хөндлөн гарах боломжтой эсэхийг шалгаарай.

Хялбар тайван.

Амьдрал хэзээ ч тийм амархан байдаггүй бололтой. Бүх автомат жолоодлоготой машинууд энэ дүрмийг дагаж мөрддөг гэж төсөөлөөд үз дээ. Явган зорчигчид хиймэл оюун ухаантай жолоодлогын систем нь түлхэлт гэдгийг ойлгох нь гарцаагүй. Гудамжаар гарахыг хүссэн бүх явган зорчигч хүссэн үедээ, хаана ч байсан хүссэнээрээ гарна.

Өөрийгөө жолооддог машин цагт 45 милийн хурдтай хурдтай гудамжаар ирж байна гэж бодъё. Явган зорчигч хиймэл оюун ухаан өөрөө жолооддог машиныг зогсооно гэдгийг "мэддэг". Тиймээс явган хүн гудамжинд сумаар ордог. Харамсалтай нь физик нь хиймэл оюун ухааныг ялдаг. AI жолоодлогын систем нь өөрөө жолооддог машиныг зогсоохыг оролдох боловч автомат жолоодлоготой тээврийн хэрэгслийн эрч хүч нь олон тоннын даацыг урагшлуулж, замаасаа хазайсан явган зорчигч руу дайрах болно. Үр дүн нь гэмтэх эсвэл үхэлд хүргэдэг.

Жолооч хүн жолоо барьж байхад явган зорчигчид энэ төрлийн зан үйлийг ихэвчлэн оролддоггүй. Мэдээжийн хэрэг, зарим бүс нутагт нүдний алимны дайн болж байна. Явган зорчигч жолоочийн нүдийг бүлтийлгэж байна. Жолооч явган зорчигч руу нүд салгаж байна. Нөхцөл байдлаас шалтгаалан жолооч зогсох эсвэл жолооч нь замын зорчих хэсгийг шаардаж, явган зорчигчийг замд нь саад учруулж зүрхлэх магадлалтай.

Бид хиймэл оюун ухаантай ижил төстэй нүдний алимны дайнд орохыг хүсэхгүй байгаа байх, энэ нь өөрөө жолооддог машины жолоодлого дээр хүн эсвэл робот суугаагүй тул бага зэрэг хэцүү байдаг (би роботуудын ирээдүйн боломжийн талаар ярилцсан. тэр жолоо, харна уу холбоос энд байна). Гэсэн хэдий ч бид явган зорчигчдыг үргэлж буудахыг зөвшөөрч болохгүй. Үр дүн нь холбогдох бүх хүмүүст гамшигт хүргэж болзошгүй юм.

Дараа нь та энэ зоосны нөгөө тал руу эргэлдэж, хиймэл оюун ухаан жолоодох систем ийм нөхцөлд хэзээ ч зогсох ёсгүй гэж тунхаглаж магадгүй юм. Өөрөөр хэлбэл, явган зорчигч гудамжаар хөндлөн гарах зохих эрхгүй бол хиймэл оюун ухаан нь өөрөө жолооддог машин зогсолтгүй явах ёстой гэж үргэлж бодох ёстой. Эдгээр явган зорчигчдод амжилт хүсье.

Ийм хатуу, хялбарчилсан дүрмийг олон нийт тийм ч таатай хүлээж авахгүй. Хүмүүс хүмүүс бөгөөд янз бүрийн орчинд хууль ёсны дагуу зам хөндлөн гарах эрхгүй байсан ч гудамжаар гарахыг бүрэн хориглох дургүй байдаг. Та олон нийтээс ихээхэн шуугиан дэгдээхийг хялбархан таамаглаж, өөрөө жолоодлоготой машиныг үргэлжлүүлэн нэвтрүүлэхийн эсрэг эсэргүүцэл гарахыг харж болно.

Ингэвэл хараал иддэг, үгүй ​​бол хараал иддэг.

Энэ нь таныг хиймэл оюун ухааныг жолоодлогын энэхүү асуудлыг хэрхэн шийдвэрлэх талаар шийдвэр гаргах маягтай програмчлах хэрэгтэй гэсэн үндэслэлтэй хувилбар руу хөтөлсөн гэж найдаж байна. Хэзээ ч зогсохгүй хатуу дүрэм батлагдах боломжгүй, үүний нэгэн адил үргэлж зогсоох хатуу дүрэм ч бас боломжгүй юм. Асуудлыг шийдвэрлэхийн тулд AI нь зарим нэг алгоритмын шийдвэр гаргах эсвэл ADM-тэй хамт зохион бүтээгдсэн байх ёстой.

Та ML/DL арга барилтай хослуулан өгөгдлийн багцыг ашиглахыг оролдож болно.

AI хөгжүүлэгчид энэ ажлыг хэрхэн програмчлахаар шийдэж болохыг эндээс үзнэ үү. Тэд автомат жолоодлоготой машиныг ашиглах гэж байгаа хотын эргэн тойронд байрлуулсан видео камеруудаас мэдээлэл цуглуулдаг. Хүний жолооч нар замын хөдөлгөөнд оролцох эрхгүй явган зорчигчийг зогсоодог болохыг энэ мэдээлэл харуулж байна. Энэ бүгдийг өгөгдлийн багц болгон цуглуулдаг. Machine Learning болон Deep Learning ашиглан өгөгдлийг тооцооллын аргаар загварчилдаг. AI жолоодлогын систем нь энэ загварыг ашиглан хэзээ зогсох, зогсоохгүй байхыг шийддэг.

Ерөнхийдөө орон нутгийн зан заншил юунаас ч бүрдсэн хиймэл оюун ухаан өөрөө жолооддог машиныг ингэж чиглүүлдэг гэсэн санаа юм. Асуудал шийдэгдэж!

Гэхдээ энэ нь үнэхээр шийдэгдсэн үү?

Хүний жолооч явган зорчигчийг хэзээ зогсохоо сонгохдоо өрөөсгөл ханддаг болохыг харуулсан судалгаа байдаг гэдгийг би аль хэдийн дурьдсаныг санаж байна. Тухайн хотын талаар цуглуулсан мэдээлэл нь эдгээр гажуудлыг агуулсан байх магадлалтай. Энэ өгөгдөл дээр суурилсан AI ML/DL нь ижил хэвийсэн ойлголтуудыг загварчилж, тусгах магадлалтай. Хиймэл оюун ухаан жолоодлогын систем нь одоо байгаа хэвшмэл байдлыг л биелүүлэх болно.

Асуудлыг шийдвэрлэхийн тулд бид үнэн хэрэгтээ ийм гажуудлыг агуулсан мэдээллийн багцыг нэгтгэж болно. Бид ийм өгөгдлийн багцыг олж, дараа нь хэвийсэн утгыг шошгодог, эсвэл бид асуудлыг харуулахад туслах өгөгдлийн багцыг синтетик байдлаар үүсгэдэг.

Өмнө нь тодорхойлсон бүх алхмуудыг хийх болно, үүнд:

• Энэ тодорхой гажуудлыг зориудаар агуулсан өгөгдлийн багцыг тохируулна уу
• Энэхүү тодорхой гажуудлыг илрүүлэх талаар Machine Learning (ML) болон Deep Learning (DL) загваруудыг сургахын тулд өгөгдлийн багцыг ашиглана уу.
• Зорилтот хиймэл оюун ухаан нь мөн адил хэвийсэн байж болзошгүй эсэхийг шалгахын тулд өөр хиймэл оюун ухаан руу чиглүүлэн бэлтгэсэн ML/DL-г хэрэглээрэй.
• Хиймэл оюун ухаан бүтээгчид юуг анхаарах ёстойг харуулахын тулд хэвийсэн ML/DL-г ашиглах боломжтой болгосноор тэд алгоритмын дагуу хэвшсэн гажуудал хэрхэн үүсч байгааг харахын тулд загвараа шууд шалгаж үзэх боломжтой.
• Энэхүү нэмэлт жишээгээр хиймэл оюун ухааны ёс зүй ба ёс зүйн AI мэдлэгийн нэг хэсэг болох нэг талыг барьсан хиймэл оюун ухааны аюулыг жишээ болгон үзүүлээрэй.
• Бусад

Дүгнэлт

Нээлтийн мөрийг дахин харцгаая.

Нэгийг мэдэхийн тулд хүн хэрэгтэй.

Зарим хүмүүс энэ гайхалтай түгээмэл хэллэг нь хорт хиймэл оюун ухааныг ялгах тухай ярих юм бол бид бусад хортой хиймэл оюун ухааныг олж илрүүлэх, түүнтэй тэмцэхийн тулд хорт хиймэл оюун ухааныг бий болгож, ашиглах ёстой гэсэн утгатай гэж тайлбарладаг. Хамгийн гол нь: Заримдаа өөр хулгайчийг барихын тулд хулгайч хэрэгтэй болдог.

Магадгүй бид хулгайч хийж эхлэх гэж байгаа юм болов уу гэсэн санаа зовниж байна. Бид хортой хиймэл оюун ухаан бүтээхийг хүсч байна уу? Энэ нь галзуу санаа юм шиг санагдахгүй байна уу? Зарим нь бид бүх хорт хиймэл оюун ухаан, тэр дундаа баатарлаг эсвэл эр зоригийн төлөө санаатайгаар бүтээгдсэн хиймэл оюун ухааныг хориглох ёстой гэж хатуу маргаж байна. AI For Good зорилго.

Хортой хиймэл оюун ухааныг ямар ч ухаалаг эсвэл далд дүрээр дараарай.

Одоохондоо энэ сэдвийн эцсийн нэг эргэлт. Бид ерөнхийдөө энэ алдартай мөрийг муу эсвэл исгэлэн үйлдэл хийдэг хүмүүс эсвэл зүйлтэй холбоотой гэж үздэг. Ингэж л бид хулгайчийг барина гэдэг ойлголт дээр буудаг. Магадгүй бид энэ үгийг эргүүлж, гунигтай гэхээсээ илүү баяр баясгалантай царай болгох хэрэгтэй.

Яаж байгаа юм бэ.

Хэрэв бид хиймэл оюун ухааныг шударга, хоргүй байхыг хүсч байвал үүнийг мэдэхийн тулд хүн хэрэгтэй гэж ойлгож болно. Магадгүй цаашдын агуу байдал, сайн сайхныг таньж, төрүүлэхийн тулд хамгийн агуу бөгөөд хамгийн сайныг шаарддаг. Мэргэн ухааны энэ хувилбарт бид аз жаргалтай царай руу харцгаалгүй, зохион бүтээхэд анхаарлаа төвлөрүүлэхийг зорьдог. AI For Good.

Энэ нь илүү өөдрөг, сэтгэл ханамжтай хөгжилтэй үзэл бодол байх болно, хэрэв та миний юу хэлэх гээд байгааг мэдэж байвал нэгийг нь мэдэх шаардлагатай.