AI алгоритмыг зохицуулах шалтгаан нь таны бодож байгаагаас хамаагүй хялбар юм

Хиймэл оюун ухаан дэлхийг эзлэх болов уу гэж та санаа зовж байна уу? Олонх нь тэгдэг. Элон Маскаас санаа зовж байна DeepMind дэвшилтэт Go тоглоомонд хүмүүсийг ялж байна 2017 онд Конгрессын гишүүд, Европын бодлого боловсруулагчдад (харна уу Хиймэл оюун ухаанд Европын хандлага), эрдэмтэн судлаачид, энэ бол хиймэл оюун ухааныг нухацтай авч үзэх арван жил юм шиг мэдрэмж төрж байна. Гэсэн хэдий ч таны бодож байгаа шалтгааны улмаас биш, одоогийн аюул заналхийллийн улмаас биш.

Энд алгоритмууд орж ирдэг. Алгоритм гэж юу вэ, та асууж магадгүй юм уу? Үүнийг ойлгох хамгийн энгийн арга бол машинууд ойлгож, суралцах боломжтой зааварчилгаа юм. Бид аль хэдийн машинд тооцоо хийх, өгөгдлийг боловсруулах, зохион байгуулалттай, автоматжуулсан арга замаар тайлбарлах заавар өгч чадна. Гэсэн хэдий ч асуудал бол хэлсэн зааварчилгааг өгсний дараа машин тэдгээрийг дагаж мөрдөх болно. Одоохондоо гол нь энэ. Хүнээс ялгаатай нь машинууд зааварчилгааг дагадаг. Тэд тийм ч сайн сурдаггүй. Гэхдээ нэг удаа тэд асуудал үүсгэж болно.

Компьютер хэзээ нэгэн цагт хүний ​​оюун ухааныг давж гарах санааны талаар би шуугиан тарьсан маргаан хийхийг хүсэхгүй байна, энэ нь онцгой байдлын аргумент гэгддэг (NYU-ийн философич Дэвид Чалмерсыг үзнэ үү). сэдвийн талаархи бодол санаа.) Үүний оронд үйлдвэрлэл нь AI алгоритм яагаад олон нийтэд илүү чухал болж эхэлсний хамгийн сайн жишээ байж болох юм. Машинууд бидний зардлаар ур чадвараа асар хурдасгах вий гэж айдаг. Заавал дэвшилтэт үндэслэлээр биш, харин алгоритмын хэлсэн зүйлийн хүрээнд оновчлолын ачаар.

Үйлдвэрлэл гэдэг бол аливаа зүйлийг бүтээх явдал юм. Гэхдээ машинууд юм хийх үед бид анхаарлаа хандуулах хэрэгтэй. Машинуудын хийдэг зүйл энгийн байсан ч гэсэн. Би яагаад гэдгийг тайлбарлая.

Солонго гутлаас эхлээд гар утас, нуруу

Борооны гутал үйлдвэрлэдэг байсан гэж хэлье. Норвегид бороо их ордог газар өссөн болохоор би борооны гутал өмсөх дуртай. Би байгалийн олон хүчин зүйлд захирагдаж гадаа байх дуртай. Нокиа миний өссөн борооны гутлыг хийсэн. Тийм ээ, өнөөдөр бидний мэддэг цахилгаан барааны компани болох Nokia-г резинэн гутал хийдэг байсан. Яагаад энэ түлхүүр вэ? Учир нь та ямар нэгэн зүйл хийсэн бол сайжруулахыг хүсэх тавилантай байдаг. Энэ нь утга учиртай. Үүнийг хүний ​​мөн чанар гэж хэлж болно.

Nokia-д юу тохиолдсоныг сайн мэддэг бөгөөд бага зэрэг иймэрхүү байна: Анх цаасны үйлдвэр, намайг бага байхад резинэн гутал (болон дугуй) үйлдвэрлэх нь тус компанийн хувьд онцгой амжилтанд хүрсэн. Гэсэн хэдий ч тэд нэмэлт боломжуудыг олж харсан. Тиймээс 1980-аад оны нэгэн цагт тэд цахилгаан бараа руу шилжиж, эргэн тойрныхоо үйлдвэрүүдийг хурдан сольж, гар утас үйлдвэрлэж эхлэхдээ дотоодын ханган нийлүүлэгчдээс бүрдсэн томоохон бүтцийг бий болгосон. Энэ нь Скандинаваас эхэлж, дэлхийн бусад оронд тархсан хөдөлгөөнт холбооны хувьсгалыг эхлүүлсэн. 1990-ээд оны Nokia-гийн түүхийг олон хүн бичсэн нь ойлгомжтой (харна уу Финляндын гайхамшгийн нууцууд: Nokia-гийн өсөлт).

Миний жишээ бол шууд. Магадгүй, хэтэрхий энгийн. Гэхдээ ингэж бодоод үзээрэй. Томоохон компани цаас хийхээс эхлээд бороонд явахад хялбар гутал руу хурдан шилжиж, хүмүүсийн харилцах арга барилыг өөрчилдөг гар утас руу хурдан шилжиж чадвал дараагийн алхам хэр хялбар байх бол? Гар утас үйлдвэрлэдэг компани нанобот бүтээхээр шийдэж, магадгүй XNUMX жилийн дараа тэдгээр нь ашиглалтад орж, хаа сайгүй бие даан эргэлдэж, хүний ​​туршлагыг угсарч, өөрчлөх чадвартай өчүүхэн жижиг машинуудаар хүн төрөлхтнийг өөрчилнө гэж бодъё. Хэрэв бид үүнийг хэрхэн хийхийг хүсч байгаагаа, хэнийг удирдахыг хүсч байгаагаа, эцсийн зорилгоо бодохгүйгээр ийм зүйл тохиолдвол яах вэ?

Роботууд Nokia-г гар утас хийхээр шийдэхэд нь ухамсартайгаар тусалсан гэж хэлэх нь үнэхээр хэцүү байх болно. Гэхдээ Финландын хойд эрэгт орших хөдөө тосгонд шинэ аж үйлдвэрт дэлхийн ноёрхлыг олж чадна гэж бодоход технологи чухал үүрэг гүйцэтгэсэн гэдгийг хүлээн зөвшөөрөх нь чухал үүрэг гүйцэтгэдэг.

Програм хангамжид суурилсан iOS болон Android үйлдлийн системүүд гарч ирснийг анхаарч үзээгүй учир Nokia-гийн түүх сүүлийн XNUMX жилийн хугацаанд тийм ч улаан байсангүй. Үүний үр дүнд Nokia гар утас үйлдвэрлэхээ больсон. Бага зэрэг эргэн ирэлтийн түүхэнд тэд одоо сүлжээ, харилцаа холбооны дэд бүтэц, сүлжээний аюулгүй байдлын шийдлүүд, Wi-Fi чиглүүлэгч, ухаалаг гэрэлтүүлэг, ухаалаг ТВ (харна уу). Nokia-гийн эргэн ирсэн түүх). Нокиа юм хийсээр л байгаа нь үнэн. Ганц анзаарах зүйл бол Нокиа үргэлж өөрсдийн хийсэн зүйлээ холих дуртай байдаг. Хүмүүсийн үйлдвэрлэлийн шийдвэрийг хүртэл заримдаа ойлгоход хэцүү байдаг.

Үйлдвэрлэл гэдэг нь аливаа зүйлийг бий болгож, хувьсан өөрчлөгдөнө гэсэн үг. Ерөнхийдөө өнөөдөр бидний хийж байгаа зүйл аравхан жилийн өмнөхөөс өөрчлөгдсөн. 3D принтерүүд нь аж үйлдвэр болон гэр ахуйн аль алинд нь олон дэвшилтэт бүтээгдэхүүний үйлдвэрлэлийг төвлөрсөн бус болгосон. 3D хэвлэлийн амьдралыг өөрчилсөн үр дагавар хараахан гараагүй байна. Энэ нь үргэлжлэх эсэхийг бид мэдэхгүй ч FDA нь бүтээгдэхүүний үйлдвэрлэлийг зохицуулахад анхаарлаа хандуулж байгааг бид мэднэ (харна уу). энд) хэвлэсэн эм, эмнэлгийн хэрэгсэл, оюуны өмч, хариуцлагын асуудал, галт зэвсэг хэвлэхтэй холбоотой асуудлууд гэх мэт. Эцсийн эцэст, 3D хэвлэх нь үүнээс цааш ямар сөрөг үр дагавар авчрах тухай бодлогын хэлэлцүүлэг огт байхгүй бөгөөд бидний цөөхөн хүн энэ талаар бодож зовсон.

Би 3D хэвлэх нь өөрөө аюултай гэж хэлэхгүй. Магадгүй энэ бол муу жишээ юм. Гэсэн хэдий ч эхэндээ эгэл жирийн мэт санагдах зүйлс дэлхийг өөрчилж чадна. Маш олон жишээ дурдвал: дайн дэгдээдэг төмрөөр хийсэн анчин, цуглуулагчийн сумны хошуу, биднийг COVID-19-ээс хамгаалдаг зан үйлийн маск, тэнгэр баганадсан барилга барьдаг хадаас, манай үйлдвэрүүдийг хэвлэмэл цаасаар дүүргэж (одоо ч) хөдөлдөг хэвлэх машин. хэвлэлийн бизнес, шөнийн цагаар дотор нь харж, ажиллах боломжийг олгодог чийдэнг би үргэлжлүүлж болно. 1800-аад оны сүүлээр миний мэдэх хэн ч суугаад Nokia-г үйлдвэрлэлээ цааснаас резин рүү шилжүүлж, дараа нь гар утаснаас холдуулна гэж таамаглаж байгаагүй. Магадгүй тэд байх ёстой.

Хүмүүс алхам алхмын өөрчлөлтийг таамаглагчид муу, нэг өөрчлөлт нь илүү их өөрчлөлтийг дагуулдаг үйл явц бөгөөд гэнэт бүх зүйл эрс өөр болдог. Бид экспоненциал өөрчлөлтийн талаар практик мэдлэг багатай тул энэ үйл явцыг хараахан ойлгоогүй байна; Бид үүнийг төсөөлж, тооцоолж, ойлгож чадахгүй. Гэсэн хэдий ч, энэ нь биднийг дахин дахин цохиж байна. Цар тахал, хүн амын өсөлт, ном хэвлэхээс эхлээд робот техник хүртэлх технологийн шинэчлэл зэрэг нь бидэнд анхааруулгагүйгээр дайрдаг.

Футуризмын заль мэх нь хэрэв биш, харин хэзээ юм. Үйлдвэрлэлийн зарим шинэ аргыг сонгож, ирээдүйд илүү өргөн тархах болно гэдгийг хэлэх замаар л өөрчлөлтийг урьдчилан таамаглах боломжтой. Энэ нь хангалттай энгийн. Хамгийн хэцүү хэсэг нь яг хэзээ, ялангуяа яаж гэдгийг олж мэдэх явдал юм.

Цаасны хавчаар нь асуудал биш юм

Миний үйлдвэрийн жишээг дахин авч үзье, гэхдээ энэ удаад машинууд бүх шийдвэр биш, харин оновчлол гэх мэт үйлдвэрлэлийн шийдвэрүүдийг хариуцдаг гэж төсөөлөөд үз дээ. Түүний номонд Супер ухаалаг байдал, Оксфордын их сургуулийн дистопист хүмүүнлэгч Ник Бостром цаасан хавчаар үйлдвэр ажиллуулж байгаа хиймэл оюун ухааныг оновчтой болгох алгоритмыг төсөөлж байсан. Хэзээ нэгэн цагт өсөн нэмэгдэж буй нөөцийг зорилгодоо зарцуулж сурах нь ухаалаг хэрэг болж, эцэст нь бидний ертөнцийг аажмаар цаасны хавчаар болгон хувиргаж, үүнийг унтраах оролдлогыг эсэргүүцэх машин шалтгаан болж байна гэж тэр хэллээ.

Хэдийгээр ухаантай залуу ч гэсэн Бостромын үлгэр жишээ нь дүлий бөгөөд төөрөгдүүлсэн (гэхдээ мартагдашгүй). Нэгд, тэр хүн, робот хоёр тусдаа биет байхаа больсныг тайлбарлаж чадахгүй байна. Бид харилцдаг. Ихэнх ухаалаг роботууд коботууд эсвэл хамтран ажилладаг роботууд болон хөгжиж байна. Хүмүүс машиныг засах олон боломжуудтай болно. Гэсэн хэдий ч түүний үндсэн санаа хэвээр байна. Хэзээ нэгэн цагт алхамын өөрчлөлт гарч болзошгүй бөгөөд хэрэв энэ өөрчлөлт хангалттай хурдан бөгөөд хангалттай хяналтгүй бол хяналт алдагдах магадлалтай. Гэхдээ энэ туйлын үр дүн нь арай хол юм шиг санагдаж байна. Аль ч тохиолдолд бид эдгээр машиныг ажиллуулж буй хүмүүсийг зохицуулж, ажилчдыг зохих ёсоор сургах замаар үргэлж хэлхээнд байх ёстой гэдгийг би зөвшөөрч байна. Ийм сургалт сайн явахгүй байна. Энэ нь одоогоор хэтэрхий урт хугацаа шаардаж байгаа бөгөөд сургах, сургахын тулд тусгай ур чадвар шаарддаг. Би нэг зүйлийг мэднэ. Ирээдүйд бүх төрлийн хүмүүс робот ажиллуулах болно. Үгүй хүмүүс үнэхээр хүчгүй болно.

Бид хэзээ ч машинтай бүрэн нийлдэггүй байсан ч хүнийг өсгөх нь ухаангүй автоматжуулалтаас дээр юм. Энэ хоёр ойлголт нь логикийн хувьд ялгаатай. Хүмүүс болон роботууд автоматжуулалтын үүднээс автоматжуулалтад гацах боломжтой. Энэ нь цаашдын үйлдвэрлэлд ихээхэн хохирол учруулах болно. Хэдийгээр алуурчин робот үйлдвэрлэдэггүй ч гэсэн. Би нэгдэх нь хэдэн зуун жилийн дараа гэдэгт итгэдэг, гэхдээ энэ нь гол зүйл биш юм. Гучин жилийн дараа ч гэсэн хялбаршуулсан алгоритм дээр ажилладаг өөрөө явагч машинууд хяналтаа алддаг тул тэр хувилбар аль хэдийн дэлгүүрийн талбай дээр тохиолддог. Эдгээр машинуудын зарим нь гучин жилийн настай бөгөөд хуучин, хувийн хяналтын систем дээр ажилладаг. Тэдний гол сорилт нь ахисандаа биш харин эсрэгээрээ. Тэд харилцах боломжгүй хэтэрхий энгийн байдаг. Энэ маргаашийн асуудал биш. Энэ нь урьд өмнө байгаа асуудал юм. Бид үүнд нүдээ нээх ёстой. Дараагийн удаа резинэн гутлаа өмсөхдөө энэ тухай бодоорой.

Надад 1980-аад оны Nokia-гийн гутлууд байгаа. Тэд цоорхойтой ч би хаанаас ирсэн, хэр хол алхсанаа сануулахын тулд тэдгээрийг хадгалдаг. Бороо ч мөн адил орсоор байгаа бөгөөд хангалттай цэвэрхэн л бол би тэр гутлаас илүү сайн засвар хийхийг хүсэхгүй байна. Тэгээд дахиад л би хүн шүү дээ. Робот аль хэдийн хөдөлсөн байх магадлалтай. Солонго гутлын хиймэл оюун ухаан гэж юу вэ, би гайхаж байна. Энэ нь гар утас биш юм. Энэ нь борооны мэдрэгч биш юм. Энэ нь оюун ухааныг төөрөлдүүлдэг.

Өнөөдөр дижитал гутал нь 3D хэвлэсэн загвартай тул та тэдгээрийг өөртөө тохируулж болно гэсэн үг юм. Зөвхөн NFT (хувьд үл тохиромжгүй жетон) хэлбэрээр байдаг виртуал гутал байдаг бөгөөд зарж, арилжаалагдах боломжтой. Шилдэг виртуал пүүзнүүд өнөө үед 10,000 долларын үнэтэй байна (харна уу NFT пүүз гэж юу вэ, яагаад 10,000 долларын үнэтэй вэ?). Би тэднээс айдаггүй, гэхдээ айх ёстой юу? Хэрэв виртуал ертөнц нь биет ертөнцөөс илүү үнэ цэнэтэй болвол би магадгүй. Эсвэл хиймэл оюун ухааны өөрийн аватар "бороо"-той тэмцэхийн тулд өөрийн NFT ачааллыг худалдаж авах хүртэл санаа зовохыг хүлээх үү? Хэрэв бид өөрсдийнхөө дүр төрхөөр алгоритм зохиодог бол AI нь хувьцаа худалдаж авах, үнэнч нөхөрлөл (магадгүй машин болон хүмүүстэй хоёуланд нь) бий болгох, санах гэх мэт бидний сайн байхыг хүсдэг ч тийм ч сайн байдаггүй зүйлд илүү сайн байх магадлалтай. зүйлс. Аж үйлдвэрийн метаверс нь гайхалтай боловсронгуй байж болох юм - манай ертөнцийг дуурайдаг дижитал ихрүүдээр дүүрэн, үр өгөөжтэй байдлаар давж гардаг - эсвэл гайхалтай энгийн байж болох юм. Магадгүй хоёулаа. Бид одоохондоо мэдэхгүй байна.

Бид булангийн эргэн тойронд юу байгааг мэдэхгүй учраас AI алгоритмуудыг зохицуулах хэрэгтэй. Энэ бол хангалттай шалтгаан, гэхдээ бид үүнийг хэрхэн хийх тухай бол энэ нь илүү урт түүх юм. Надад дахин нэг хурдан ажиглалт хийхийг зөвшөөрнө үү, магадгүй бүх үндсэн алгоритмуудыг олон нийтэд нээлттэй болгох хэрэгтэй. Үүний шалтгаан нь хэрэв үгүй ​​бол тэд юунд хүргэж болохыг мэдэх арга байхгүй. Шилдэг нь нэлээд алдартай (харна уу Машин сургалтын шилдэг 10 алгоритм), гэхдээ тэдгээрийг хаана, хэрхэн ашиглах талаар дэлхий даяар тойм байдаггүй. Ялангуяа хяналтгүй алгоритмуудыг анхааралтай ажиглах хэрэгтэй (харна уу Үйлдвэрлэлд машин суралцах зургаан хүчирхэг хэрэглүүр), тэдгээрийг засвар үйлчилгээ, чанарыг урьдчилан таамаглахад ашигладаг эсэх, үйлдвэрлэлийн орчныг дуурайх (жишээлбэл, дижитал ихрүүд), эсвэл хүний ​​хэзээ ч санаанд оромгүй шинэ загвар гаргахад ашигладаг. Өнөөгийн нөхцөлд эдгээр хяналтгүй алгоритмууд нь ихэвчлэн хиймэл мэдрэлийн сүлжээ гэж нэрлэгддэг бөгөөд хүний ​​тархийг дуурайхыг оролддог.

Би мэдрэлийн сүлжээнүүдийн талаар санаа зовж эхэлсэн, учир нь тэдний логикийг ойлгоход хэцүү байдаг. Асуудал нь ихэнх мэргэжилтнүүд, тэр ч байтугай тэдгээрийг ашиглаж байгаа хүмүүс хүртэл эдгээр алгоритмууд нь шат дамжлага, давхарга руу хэрхэн шилждэгийг ойлгодоггүй явдал юм. Байн байн хэрэглэгддэг “далд давхаргууд” гэдэг зүйрлэл тийм ч оновчтой, тийм ч инээдтэй санагдахгүй байна. Үйлдвэрлэл, автоматжуулсан татвар хураалт, ажилд авах шийдвэр гаргах, коллежид элсэх зэрэгт далд давхарга байх ёсгүй. Магадгүй та ч бас санаа зовох талаар бодох хэрэгтэй болов уу? Нэг зүйл бол хүн, машин хоёр хамтдаа юм бүтээх нь дэлхийг өөрчлөх нь гарцаагүй. Энэ нь аль хэдийн олон удаа давтагдсан. Цааснаас авахуулаад солонго гутал хүртэл, орчин үеийн хиймэл тархины давхаргууд хүртэл судлагдаагүй зүйл үлдэх ёсгүй. Олон жижиг өөрчлөлтөөс гэнэт том өөрчлөлт гарч ирдэг гэдгийг бид нуух хэрэггүй.