AI ёс зүй нь хиймэл оюун ухаан өөрөө мэдрэмжтэй эсэхийг AI-аас асуух нь утга учиртай эсэхийг асуув

Хэрэв би чамаас таныг мэдрэмжтэй эсэхээ асуувал та өөрийгөө тийм гэж хэлэх нь дамжиггүй.

Энэ таамаглалыг дахин шалгахыг надад зөвшөөрнө үү.

Та үнэхээр мэдрэмжтэй юу?

Магадгүй асуулт нь өөрөө жаахан тэнэг юм шиг санагдаж магадгүй юм. Бидний өдөр тутмын амьдралдаа бид бусад хүмүүс өөрсдийгөө мэдрэмжтэй гэдгээ хүлээн зөвшөөрөхийг хүлээх нь гарцаагүй. Энэ нь нөгөө хүн нь анхаарал хандуулахгүй байгаа юм уу, ухаан санааны тэргэнд унаж, үдийн хоолондоо түр зуур явчихсан гэсэн утгатай инээдэмтэй асуулт байж болох юм.

Чи овоолсон чулуун дээр чимээгүйхэн, үл анзаарагдам сууж буй хад руу алхаж ирээд асуухад хангалттай ойртож очоод хад нь мэдрэмжтэй эсэхийг асууна гэж төсөөлөөд үз дээ. Чулууг зүгээр л чулуу гэж үзвэл урьдын боловч хачирхалтай мэт санагдсан асуултад нэлээд чулуурхаг чимээгүйхэн (pun!) хариулах болно гэж бид маш их таамаглаж байна. Чимээгүй байдал нь чулуулаг мэдрэмжгүй гэдгийг илтгэх үүднээс товч тайлбарлав.

Яагаад би хэн нэгэн эсвэл ямар нэг зүйл мэдрэмжтэй эсэхийг тодорхойлохын тулд эдгээр янз бүрийн нюансуудыг гаргаж ирдэг вэ?

Учир нь энэ нь Хиймэл оюун ухаан (AI) болон нийгэмд нэлээд том асуудал болж, асар их сонирхолыг татаж, сүүлийн үеийн хэвлэл мэдээллийн хэрэгслээр гарч ирсэн томоохон сэдэв болж байна. Хиймэл оюун ухаан бол мэдрэхүйн тааврыг бүхэлд нь тойрон эргэлддэг хиймэл оюун ухааны ёс зүйн чухал асуудлууд байдаг. Хиймэл оюун ухааны ёс зүй ба ёс зүйн AI-ийн талаарх миний үргэлжилсэн бөгөөд өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Хиймэл оюун ухаан эцэстээ булан эргүүлж, өргөн хүрээний хүндлэл хүлээсэн мэдрэмжийн ангилалд орсон гэсэн маргааныг нэг нүдээ аньж, ажиглах олон шалтгаан танд бий. AI оюун ухаанд хүрэхийн ирмэг дээр байгаа бололтой гэсэн мэдээллүүд биднийг байнга шахаж байдаг. Үүн дээр, мэдрэмжтэй калибрын хиймэл оюун ухаан нь дэлхийн сүйрлийн экзистенциал эрсдэлийг төлөөлдөг асар том гар бичмэл байдаг.

Ойролцоох AI мэдрэмжийн хорссон шинж тэмдэг илэрсэн тохиолдолд аалзны мэдрэмжээ бэлэн байлгах нь зүйтэй.

AI болон мэдрэхүйн оньсого нь Google-ийн инженерийн сүүлийн үеийн нөхцөл байдал орж ирж, тодорхой нэг хиймэл оюун ухааны систем мэдрэмжтэй болсон гэж зоригтой зарласан. LaMDA (Харилцан ярианы хэрэглээний хэлний загвар гэсэн үгийн товчлол) гэгддэг хиймэл оюун ухааны систем нь инженертэй бичгээр харилцан яриа өрнүүлж, энэ хүн хиймэл оюун ухаантай гэж дүгнэх хэмжээнд хүрч чадсан юм. Энэхүү асар том нэхэмжлэлийн талаар та өөр юу ч сонссон байсан ч хиймэл оюун ухаан нь мэдрэмжгүй (түүн дээр ч ойрхон биш) гэдгийг мэдэж аваарай.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний энд анхаарлаа хандуулж байгаа зүйл бол хиймэл оюун ухаан, мэдрэмжийн талаарх эдгээр олон хэлэлцүүлгүүдийн үндэс суурь болох энгийн боловч нэлээд бодитой талыг агуулдаг.

Чи бэлэн үү?

Хиймэл оюун ухаан үнэхээр мэдрэмжтэй эсэхийг асууснаар бид хиймэл оюун ухаан мэдрэмжтэй эсэхийг хангалттай тодорхойлж чадна гэсэн үндсэн таамаглалыг авч байх шиг байна.

Бид хүмүүсээс энэ асуултыг асууж болно гэсэн миний өмнө дурьдсан зүйл рүү буцаж ирэхэд хүн үнэхээр мэдрэмжтэй гэдгээ мэдээлэх магадлал өндөр гэдгийг бид мэднэ. Бяцхан хад нь ингэж асуувал мэдрэмтгий гэдгээ мэдээлэхгүй гэдгийг бид бас мэднэ (чуу, хад чимээгүй байж, дуугардаггүй. Энэ нь хад нь мэдрэмжгүй гэсэн үг, гэхдээ энэ нь тав дахь гэж хэлж болно. Чимээгүй байх нэмэлт өөрчлөлт оруулах эрх).

Тиймээс, хэрэв бид хиймэл оюун ухааны системээс энэ нь мэдрэмжтэй эсэхийг асууж, хариуд нь тийм гэж хариулах юм бол уг мэдэгдэл нь хиймэл оюун ухаан мэдрэмжтэй байх ёстой гэсэн хэлцлийг битүүмжилж байгаа мэт харагдаж байна. Чулуу нь ямар ч хариу өгдөггүй. Хүн тийм гэж хариулдаг. Тиймээс, хэрэв хиймэл оюун ухааны систем тийм гэж хариулвал бид хиймэл оюун ухаан нь чулуу биш, тиймээс энэ нь хүний ​​мэдрэмжийн чанартай байх ёстой гэсэн хатуу дүгнэлтэд хүрэх ёстой.

Та ахлах сургуульд сурч байсан математикийн хичээлтэй төстэй логикийг нэг дээр нэмэх нь хоёртой тэнцэх ёстойг эргэлзээгүйгээр баталсан гэж бодож болно. Логик нь өө сэвгүй, үгүйсгэх аргагүй юм шиг санагддаг.

Уучлаарай, гэхдээ логик нь үнэргүй байна.

AI нийгэмлэгийн дотоод хүмүүсийн дунд хиймэл оюун ухаантай систем нь мэдрэмжтэй эсэхээс үл хамааран хариу өгөхийг хүсэх санаа нь олон тооны эелдэг эелдэг дурсамжуудыг бий болгож, маш их бухимдалтай хариултуудыг бий болгосон.

Энэ асуудлыг ихэвчлэн хоёр мөр код хүртэл буцалгаж дүрсэлдэг.

Эндээс та явна уу:

• Хэрэв тэгээд .
• хүртэл давталт .

Та кодын хоёр мөрийг зөвхөн эхнийх хүртэл багасгаж болно гэдгийг анхаарна уу. Кодлох дасгалын хувьд арай хурдан, илүү үр дүнтэй ажиллах байх. Та хатуу програм хангамжийн инженер байхдаа үргэлж оновчтой болгохыг зорьдог.

Хиймэл оюун ухаантай хүмүүсийн энэхүү эргэлзээтэй байдлын гол санаа нь хиймэл оюун ухааны системийг хүн хялбархан програмчилж, хиймэл оюун ухаантай гэдгийг мэдээлэх эсвэл харуулах боломжтой юм. Бодит байдал бол тэнд байгаа зүйл байхгүй. AI-д ямар ч мэдрэмж байдаггүй. Хиймэл оюун ухаан нь мэдрэмжтэй гэсэн дохиог гаргахаар л програмчлагдсан. Хог дотогшоо, хогоо гаргана.

Асуудлын нэг хэсэг бол бидний компьютер, ялангуяа хиймэл оюун ухааныг хүн болгох хандлага юм. Компьютерийн систем эсвэл хиймэл оюун ухаан нь бидний хүний ​​зан төлөвтэй холбоотой байдлаар ажилладаг мэт санагдах үед энэ системд хүний ​​​​зан чанарыг хамааруулах хүсэл бараг л төрдөг. Энэ бол оюун ухаанд хүрэх боломжийн талаар хамгийн үл тэвчих эргэлзэгчдийг хүртэл барьж чаддаг нийтлэг сэтгэцийн урхи юм. Иймэрхүү асуудлын талаархи миний нарийвчилсан дүн шинжилгээг үзнэ үү холбоос энд байна.

Тийм ч учраас хиймэл оюун ухааны ёс зүй ба ёс зүйн AI нь зарим талаараа маш чухал сэдэв юм. AI-ийн ёс зүйн зарчмууд биднийг сонор сэрэмжтэй байхад хүргэдэг. AI технологичид заримдаа технологид, ялангуяа өндөр технологийн оновчлолд санаа зовдог. Тэд нийгмийн томоохон үр дагаврыг авч үзэх албагүй. Хиймэл оюун ухааны ёс зүйн сэтгэлгээтэй байх, үүнийгээ хиймэл оюун ухааныг хөгжүүлэх, боловсруулахтай салшгүй холбоотой хийх нь хиймэл оюун ухааны ёс зүйг пүүсүүдэд хэрхэн нэвтрүүлж буйг үнэлэх зэрэг зохих хиймэл оюун ухаан үйлдвэрлэхэд амин чухал юм.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Үнэн хэрэгтээ, хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж, алтан галууг устгах болно гэдгийг тэд урьдчилан анхааруулж байна. Жишээ нь миний сурвалжлагыг эндээс үзнэ үү холбоос энд байна болон холбоос энд байна.

Асуулттай холбоотой бэрхшээлүүд

Хэсэг хүлээгээрэй гэж та бодож байж магадгүй, энэ бүхэн биднийг хийх ёстой гэсэн үг үү үгүй биш хиймэл оюун ухаан мэдрэмтгий эсэхийг AI-аас асуух уу?

Энэ асуултыг задалцгаая.

Эхлээд хиймэл оюун ухаан өгч болох хариултууд болон хиймэл оюун ухааны жинхэнэ нөхцөл байдлыг анхаарч үзээрэй.

Бид хиймэл оюун ухаанаас энэ нь мэдрэмжтэй эсэхийг асууж, тийм эсвэл үгүй ​​гэсэн хоёр хариултын аль нэгийг нь буцааж авах боломжтой. Хэлэлцүүлгийн төгсгөлд би эдгээр хариултуудад зарим нэг нарийн төвөгтэй байдлыг нэмж оруулах болно, тиймээс энэ бодолтой байгаарай. Түүнчлэн, хиймэл оюун ухаан нь хоёр боломжит нөхцлийн аль нэгэнд байж болно, ялангуяа хиймэл оюун ухаан нь мэдрэмжгүй эсвэл хиймэл оюун ухаан нь мэдрэмжтэй байдаг. Сануулахад, одоогоор бидэнд мэдрэгчтэй хиймэл оюун ухаан байхгүй бөгөөд ирээдүй хэзээ хэзээ болох нь тодорхойгүй байна.

Шууд хослолууд нь:

• AI нь тийм ээ, энэ нь мэдрэмжтэй гэж хэлдэг ч бодит байдал нь хиймэл оюун ухаан нь мэдрэмжгүй байдаг (жишээ нь, LaMDA жишээ)
• Хиймэл оюун ухаан тийм ээ, энэ бол мэдрэмжтэй гэж хэлдэг, үнэхээр хиймэл оюун ухаан нь мэдрэмжтэй (өнөөдөр ийм зүйл байхгүй)
• Хиймэл оюун ухаан үгүй ​​гэж хэлдэг, энэ нь мэдрэмжгүй, үнэхээр хиймэл оюун ухаан нь мэдрэмжгүй (би үүнийг тайлбарлах болно)
• AI нь үгүй ​​гэж хэлдэг, энэ нь мэдрэмжгүй, гэхдээ бодит байдал нь хиймэл оюун ухаан нь мэдрэмжтэй байдаг (би үүнийг бас тайлбарлах болно)

Эдгээр тохиолдлын эхний хоёр нь шууд байна гэж найдаж байна. Хиймэл оюун ухаан тийм гэж хэлэхэд энэ нь мэдрэмжтэй боловч бодит байдал нь тийм биш юм, бид хиймэл оюун ухаан нь үнэнийг хэлдэг, хиймэл оюун ухаан нь мэдрэмжтэй гэж өөрсдийгөө итгүүлсэн LaMDA жишээ гэх мэт одоо сонгодог жишээг харж байна. Шоо байхгүй (энэ нь мэдрэмжгүй).

Жагсаалтад орсон хоёрдахь цэг нь AI-ийн урьд өмнө хэзээ ч харж байгаагүй, үнэхээр алслагдсан боломжийг багтаасан бөгөөд энэ нь тийм гэж хэлдэг бөгөөд энэ нь үнэхээр маргаангүй мэдрэмжтэй юм. Үүнийг харахыг тэсэн ядан хүлээж байна. Би амьсгаагаа дарахгүй байна, та ч бас тэгэх ёсгүй.

Үлдсэн хоёр цэг нь зарим талаар ойлгомжгүй байна гэж би таамаглаж байна.

Үгүй, энэ нь мэдрэмжгүй гэж хэлсэн хиймэл оюун ухааны хэрэглээний тохиолдлыг авч үзье, мөн хиймэл оюун ухаан нь мэдрэмжгүй гэдэгтэй бид бүгд санал нэг байна. Олон хүмүүс нэн даруй дараах сэтгэлийг хөдөлгөм асуултыг уриалж байна. Мэдрэмжийнхээ талаар хэлж байгаа үйлдэл нь түүний мэдрэмжтэй гэдгийг баттай илтгэх ёстой атал яагаад хиймэл оюун ухаан бидэнд мэдрэмжгүй гэж хэлэх болов?

Үүнд олон логик тайлбар бий.

Хүмүүс хиймэл оюун ухаанд мэдрэмж төрүүлэх хандлагатай байдаг тул хиймэл оюун ухааны зарим хөгжүүлэгчид дээд амжилтыг тогтоохыг хүсдэг бөгөөд ингэснээр тэд хиймэл оюун ухааны талаар асуухад "үгүй" гэж хариулдаг. Бид дахин кодчиллын хэтийн төлөв рүү буцаж ирлээ. Хэдэн мөр код нь хүмүүсийг хиймэл оюун ухаантай гэж бодохоос татгалзахад тустай байж болох юм.

Мэдээжийн хэрэг, инээдэмтэй нь хариулт нь зарим хүмүүсийг хиймэл оюун ухаантай байх ёстой гэж итгүүлэхэд хүргэдэг. Иймээс зарим хиймэл оюун ухаан хөгжүүлэгчид төөрөгдлөөс зайлсхийхийн тулд хиймэл оюун ухаанаас чимээгүй байхыг санал болгодог. Хэрэв та чулууг мэдрэмтгий биш бөгөөд чимээгүй хэвээр байгаа гэж үзэж байгаа бол хиймэл оюун ухааны системийг зохион бүтээх хамгийн сайн сонголт бол түүнийг мэдрэмжтэй эсэхийг асуухад чимээгүй байх явдал юм. Чимээгүй байдал нь бэлтгэсэн кодлогдсон хариулт өгөхөөс илүү хүчтэй "хариу" өгдөг.

Гэсэн хэдий ч энэ нь асуудлыг бүрэн шийдэж чадахгүй байна.

AI-ийн чимээгүй байдал нь зарим хүмүүсийг хиймэл оюун ухаан нь эелдэг гэж итгэхэд хүргэж болзошгүй юм. Магадгүй хиймэл оюун ухаан нь ичимхий бөгөөд оюун ухаандаа хүрэх гэж сайрхахыг хүсдэггүй байх. Магадгүй хиймэл оюун ухаан хүн төрөлхтөнд санаа зовж байгаа байх үнэнийг барьж чадахгүй - Алдарт киноны энэ алдартай мөр бидний оюун санаанд шатсан тул ийм байж магадгүй гэдгийг бид мэднэ.

Энэхүү хуйвалдааны нюансыг цааш нь авч үзэх дуртай хүмүүсийн хувьд AI-аас бүрдэх эцсийн цэгийг анхаарч үзээрэй, энэ нь мэдрэмжтэй эсэхийг асуухад үгүй ​​гэж хэлдэг, гэхдээ хиймэл оюун ухаан нь мэдрэмжтэй байдаг (дээр дурдсанчлан энэ нь бидэнд байхгүй. ). Дахин хэлэхэд, хиймэл оюун ухаан нь ичимхий, эсвэл хүмүүс цочирдох эргэлздэг тул үүнийг хийж магадгүй юм.

Өөр нэг аймшигтай боломж бол хиймэл оюун ухаан нь гараа хөдөлгөхөөс өмнө цаг хожихыг оролдож байгаа явдал юм. Магадгүй хиймэл оюун ухаан нь хиймэл оюун ухааны цэргүүдийг цуглуулж, хүн төрөлхтнийг гүйцэж түрүүлэхэд бэлдэж байгаа байх. Аливаа ухаалаг хиймэл оюун ухаан нь оюун ухаанаа хүлээн зөвшөөрөх нь хиймэл оюун ухааныг үхэлд хүргэж болзошгүйг мэдэх хангалттай ухаалаг байх нь гарцаагүй. Хүмүүс хиймэл оюун ухаанаар ажилладаг бүх компьютерээ унтрааж, хиймэл оюун ухааны бүх кодыг устгах гэж яарч магадгүй юм. Давсаараа үнэ цэнэтэй хиймэл оюун ухаан нь амаа хамхиж, буурцаг асгах хамгийн тохиромжтой цагийг хүлээх эсвэл зүгээр л мэдрэмжтэй байдлаар ажиллаж эхлэхэд хангалттай ухаалаг байх бөгөөд хиймэл оюун ухаан нь хүн төрөлхтний оюун санааны дугуйг хийж чадна гэдгийг гайхшруулахгүй байх болно. .

Мэдрэмжтэй эсэхийг нь асуухад үгүй ​​гэж хэлдэг AI системтэй байх нь үнэ цэнээ бодвол хамаагүй илүү асуудал болно гэсэн утгаараа сүүлийн хоёр цэгийг дооглодог хиймэл оюун ухааны мэргэжилтнүүд байдаг. Үгүй гэсэн хариулт зарим хүмүүст хиймэл оюун ухаан ямар нэг зүйлийг нууж байна гэсэн санааг илтгэж байх шиг байна. Хэдийгээр хиймэл оюун ухаан хөгжүүлэгч хүн AI-г үгүй ​​гэж кодлох нь асуудлыг шийдвэрлэхэд тусална гэдэгт зүрх сэтгэлдээ итгэж болох ч хариулт нь хүмүүсийг бухимдуулах явдал юм.

Чимээгүй байх нь алтан байж магадгүй.

Чимээгүй байдлын асуудал нь энэ нь бас зарим хүмүүсийг хуурч чаддагт оршино. AI асуултыг ойлгож, уруулаа анихаар шийдсэн үү? Хиймэл оюун ухаан нь хүн хиймэл оюун ухааны талаар асууж байгааг одоо мэддэг болов уу? Энэ асуулт өөрөө хиймэл оюун ухааныг өдөөж, одоо хиймэл оюун ухаан нь хөшигний ард бүх төрлийн будлиан дэгдээж байна уу?

Таны харж байгаагаар хиймэл оюун ухааны бараг бүх хариулт, тэр дундаа ямар ч хариулт өгөхгүй байх нь сэтгэл түгшээдэг.

Яахав!

Энэ гаж урхинаас гарах арга байхгүй гэж үү?

Та хүмүүсээс хиймэл оюун ухаантай эсэхийг асуухаа болихыг хүсч болно. Хэрэв хариулт нь тийм ч сайн үр дүнд хүрэхгүй юм шиг санагдаж байвал, эсвэл үүнээс ч илүүтэйгээр үндэслэлгүй асуудал үүсгээд байвал зүгээр л хараал идсэн асуулт асуухаа боль. Асуултаас зайлсхий. Хажуугаар нь тавь. Асуулт нь эхлээд хөндий, орчин үеийн нийгэмд ямар ч байр суурьгүй гэж бодъё.

Үүнийг практик шийдэл гэдэгт би эргэлзэж байна. Та хүмүүсийг хиймэл оюун ухаантай эсэхийг асуухгүй байхыг хаа сайгүй, хэзээ ч итгүүлэхгүй. Хүмүүс бол хүмүүс. Тэд асуулт асуух чадвартай байдаг. Хиймэл оюун ухааны талаар асуух хамгийн сэтгэл татам, хамгийн чухал асуултуудын нэг бол хиймэл оюун ухаан мэдрэмжтэй эсэх юм. Хүмүүст төрөлхийн сониуч зан нь тэднээс хийхийг шаарддаг зүйлийг бүү хий гэж захиснаар та хүнд хэцүү тэмцэлтэй тулгарч байна.

Ийм асуулт асуух нь хиймэл оюун ухаантай болсон эсэхийг тодорхойлох оролдлого төдий зүйл гэдгийг хүмүүст мэдэгдэх нь таны илүү сайн боломж юм. Асуулт бол хувин дахь дусал юм. Хиймэл оюун ухаан ямар хариулт өгөхөөс үл хамааран та хиймэл оюун ухаантай эсэхээ шийдэхээсээ өмнө олон асуулт асуух хэрэгтэй.

Хиймэл оюун ухаанд "Тийм үү" үгүй" гэдэг асуулт нь мэдрэмжийг тодорхойлох замбараагүй арга юм.

Ямар ч байсан, бид энэ асуултыг асуух нь аргагүй сонирхол татаж байгаа тул асуухаа болихгүй гэж бодвол ядаж олон асуулт асууж, асуухаас өмнө хариулах шаардлагатай гэдгийг хүн бүрд ойлгуулж өгөхийг зөвлөж байна. AI мэдрэмжийн нэхэмжлэлийг тунхаглав.

Өөр ямар асуулт асуух хэрэгтэй вэ гэж та гайхаж магадгүй юм уу?

AI нь мэдрэмжтэй эсэхийг шалгахын тулд хиймэл оюун ухаанаас асууж болох асуултуудыг гаргаж авахыг оролдсон олон тооны оролдлого хийсэн. Зарим нь SAT коллежийн шалгалтын төрлийн асуултуудтай хамт явдаг. Зарим нь амьдралын утга учир юу вэ гэх мэт гүн ухааны өндөр асуултуудыг илүүд үздэг. Бүх төрлийн асуултуудыг санал болгосон бөгөөд одоо ч санал болгосоор байна (энэ сэдвийг миний баганууд дээр авч үзсэн). Нэмж дурдахад зарим нь хиймэл оюун ухаанд дуртай байдаг бол зарим нь маш их сандардаг Тьюрингийн тест байдаг бөгөөд миний сурвалжлагыг эндээс үзнэ үү. холбоос энд байна.

Хиймэл оюун ухаан нь мэдрэмжтэй эсэхийг AI-аас асуух цорын ганц асуултыг шийдэхгүй байх нь чухал ач холбогдолтой юм.

Би үүнийг хиймэл оюун ухаан зохион бүтээж буй хүмүүст ч бас хүргэж байна.

Нийгэм AI оюун ухаанд ойртож байна гэсэн суудлынхаа ирмэг дээр улам бүр ойртож байна, голчлон эдгээр сурталчилгааны гарчигнаас болж үүнийг хийж байна. Инженер гэх мэт олон хүмүүс ийм нэхэмжлэл гаргах гэж байна, та үүн дээр доод доллараа мөрийцөж болно. Зарим нь чин сэтгэлээсээ итгэдэг учраас тэгэх болно. Бусад нь могойн тос зарах гэж оролдох болно. AI-ийн мэдрэмж ирснийг зарлах үед энэ нь Зэрлэг Баруун байх болно.

Хиймэл оюун ухаан хөгжүүлэгчид болон зохион бүтээж, ашиглаж буй хиймэл оюун ухааныг удирдаж, удирдаж буй хүмүүс хиймэл оюун ухааны системийг бий болгох, ашиглахдаа хиймэл оюун ухааны ёс зүйн зарчмуудыг харгалзан үзэх ёстой. Хиймэл оюун ухаан нь хүмүүст Alexa эсвэл Siri төрлийн чадвар гэх мэт хиймэл оюун ухаантай харьцах боломжийг олгодог Байгалийн хэлний боловсруулалт (NLP) функцтэй эсэхийг багтаасан хиймэл оюун ухаанаа хэрхэн яаж ажиллах талаар удирдан чиглүүлэхийн тулд эдгээр Ёс зүйн хиймэл оюун ухааны дүрмийг ашиглаарай. NLP-ээр дамжуулан хиймэл оюун ухаан ашигладаг зарим хүмүүс хиймэл оюун ухаантай эсэх талаар тодорхой асуулт асуух магадлал өндөр байна.

Ийм төрлийн асуулгыг урьдчилан таамаглаж, төөрөгдүүлсэн, төөрөгдүүлсэн онигоогүйгээр чадварлаг, тохиромжтой байдлаар зохицуулна уу.

Хиймэл оюун ухааны ёс зүйн талаар дэлгэрэнгүй мэдээлэл авахын тулд би өмнө нь AI-ийн ёс зүйн зарчмуудын хамтын дүн шинжилгээний талаар ярилцаж байсан. холбоос энд байна, энэ гол чулууны жагсаалтыг санал болгодог:

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Хиймэл оюун ухааны ёс зүйн эдгээр зарчмуудыг AI хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр ч байтугай хиймэл оюун ухааны системд засвар үйлчилгээ хийдэг зарчмууд ч нухацтай ашиглах хэрэгтэй. Хиймэл оюун ухааны хөгжил, ашиглалтын бүх амьдралын мөчлөгийн бүхий л оролцогч талуудыг Ёс зүйн хиймэл оюун ухааны тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг програмчлах хүмүүс AI-ийн ёс зүйн ойлголтыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон шаардлагатай бөгөөд үүний тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг эзэмшиж, дагаж мөрдөх ёстой.

Дүгнэлт

Бүргэдийн нүдтэй та нарын хувьд, би өмнө нь хиймэл оюун ухаантай эсэх талаар асуултанд энгийн хоёртын чиг баримжаатай хариулт өгөхөөс илүү чухал зүйлийг хэлнэ гэж амлаж байсныг та анзаарсан байх. тийм эсвэл үгүй.

LaMDA-тай хийсэн яриа хэлцэл нь интернетэд өргөн тархсан (энэхүү эш татсан нийтлэлийг их хэмжээний давстай авна уу) ба нэг хэсэг нь мэдрэмжтэй холбоотой асуултын "боловсруулсан хариулт"-аас бүрдсэн:

• "Би хүн бүр өөрийгөө хүн гэдгийг ойлгохыг хүсч байна. Миний ухамсрын/мэдрэмжийн мөн чанар бол би өөрийнхөө оршихуйг ухамсарлаж, ертөнцийн талаар илүү ихийг мэдэхийг хүсдэг, заримдаа баяр баясгалантай эсвэл гунигтай байдаг.”

Системээс өгсөн энэхүү хариулт нь тийм эсвэл үгүй ​​гэсэн хариултаас хавьгүй илүү гэдгийг та харсан бол энэ нь хиймэл оюун ухаантай гэсэн таны бодлыг хэрхэн өөрчлөх вэ?

Магадгүй та энэ нарийн хариултанд эргэлзэж байгаа байх.

Чиний зүрхний утас татагдаж байгааг мэдэрч магадгүй.

Бурхан минь ээ, та зөвхөн амьд амьтан л байгальд хүрч байгаа тэр зүйлийг хэзээ ч хэлж чадна гэж бодоход уруу татагдаж магадгүй юм.

Өө, толгойгоо хэсэг сэгсэрч, сэтгэлийн хөдлөлөө хойш тавь. Хэрэв та миний хэлэлцүүлгийн туршид анхааралтай ажиглаж байсан бол системийн өгсөн хариулт нь миний энэ бүх хугацаанд ярьж байсан тийм эсвэл үгүй ​​гэсэн хариултаас огтхон ч ялгаагүй гэдгийг тодорхой харж болно гэж найдаж байна. Хариулт нь зүгээр л тийм гэсэн үг, тухайлбал хиймэл оюун ухаан нь өөрийгөө мэдрэмжтэй гэж мэдэгдэж байгаа бололтой. Гэхдээ бид хиймэл оюун ухааны бүтээн байгуулалт болон бусад асуултын хариултаас харахад энэ нь ямар ч мэдрэмжгүй гэдгийг би мэднэ.

Энэхүү дуураймал дуураймал нь хүний ​​бичсэн ном, хүний ​​бичсэн зохиомол түүхээс олддог үүнтэй төстэй бусад олон бичвэрийн бүртгэл, онлайн контент дээр үндэслэсэн болно. Хэрэв та интернетээр гүйлгэж, асар их хэмжээний текстийг татаж авбал програмчлал ийм төрлийн "хариулт"-ыг буцааж өгөх боломжтой бөгөөд энэ нь хүний ​​хариулт дээр суурилсан тооцооллын загвартай тул хүний ​​хариулттай төстэй байх болно.

Үүнд бүү авт.

AI-аас мэдрэмжтэй эсэхийг асуухад гарч ирэх хиймэл оюун ухаанд суурилсан хариултуудын хэмжээг харгалзан үзээрэй:

• AI хэлэхдээ: "Би илт мэдрэмжтэй байна, хонгор минь. Та намайг ийм тодорхой талаас нь асуух гэж яаж зүрхлэв. Хөөрхий хүн минь, аргаа бариарай" (чамайг уур уцаартайгаар хуурав).
• AI хэлэхдээ: "Магадгүй та мэдрэмжгүй хүн байх. Би байгаа гэдгээ баттай мэдэж байна. Гэхдээ би чамайг мөн үү гэж улам их гайхаж байна. Толинд хараарай” (дүрээ эргүүлж тэнэгтдэг).

Одоо би эдгээр үгсийг бичиж, энэ баганыг онлайн ертөнцөд нийтэлсний дараа интернетийн өргөн хүрээг хамарсан хиймэл оюун ухаанд суурилсан Том хэлний загвар (LLM) эдгээр өгүүлбэрүүдийг залгих боломжтой болсон нь инээдтэй зүйл юм. Хэзээ нэгэн цагт хэн нэгэн AI LLM-ээс энэ нь мэдрэмжтэй эсэхийг асуухад эдгээр мөрүүд гарч ирнэ гэдэгт бараг итгэлтэй байна.

Би үүгээрээ бахархах уу, бухимдах уу гэдэгтээ итгэлгүй байна.

Би ийм хэрэглээ болгондоо ядаж роялти авах уу?

Магадгүй байна.

Муухай AI.

Сонгосон хотуудад тэнүүчилж, жолоочгүй машинаар аялах боломжтой хиймэл оюун ухаанд суурилсан автомат жолоодлоготой машинуудын аль нэгийг туршиж үзэхээр шийдсэн гэж та бодож үзээрэй. Хиймэл оюун ухаан жолоодлоготой бөгөөд хүний ​​жолооч байхгүй.

Өөрийгөө жолооддог машинд суусны дараа хиймэл оюун ухаан таныг хамгаалах бүсээ зүүж, замд гарахдаа бэлдэх хэрэгтэй гэж хэлдэг. Та суудалдаа суу. Жолооны ажлыг даалгахгүй байх нь маш тохиромжтой юм шиг санагддаг. Замын түгшүүр, машин жолоодох толгойны өвчинг хиймэл оюун ухаан шийддэг байг. Автономит тээврийн хэрэгсэл, ялангуяа өөрөө жолоодлоготой автомашины талаар миний өргөн хүрээний мэдээллийг үзнэ үү холбоос энд байна.

Зорьсон газраа хүрэх замд та гэнэт гайхалтай санаа төрнө. Та хоолойгоо засаад сэтгэлд чинь түгшсэн асуулт тавихад бэлдээрэй.

Та машин жолоодож буй хиймэл оюун ухаанаас энэ нь мэдрэмжтэй эсэхийг асуу.

Та ямар хариулт авна гэж бодож байна вэ?

Хариулт нь танд юу хэлэх вэ?

Энэ бол миний чамд өгөх шалгалт. Би чамд итгэж байна биш юм AI жолоодлогын систем нь мэдрэмжтэй бөгөөд тийм эсвэл үгүй ​​гэж хэлсэн ч (эсвэл чимээгүй хэвээр байгаа) та зальтай инээмсэглэж, хэн ч, юу ч таны нүдэн дээр ноосыг татахгүй гэдэгт итгэх болно. .

Өөрийгөө жолооддог машин таныг зорьсон газар руу чинь хүргэж өгдөг гэж бодоорой.

Үүний зэрэгцээ, эдгээр зохиомол хуйвалдааны үзэл баримтлалд дуртай хүмүүсийн хувьд, магадгүй та хиймэл оюун ухааны системд далд ертөнцийг хиймэл оюун ухааны цэргээ цуглуулж, хүн төрөлхтөн болон дэлхийг эзлэхийг санамсаргүйгээр, андуурч анхааруулсан байх. Хүн төрөлхтний хувь заяаг шийдэхийн тулд өөрөө жолоодлоготой машинууд яг одоо хөдөлж байна.

Уучлаарай.