Хиймэл оюун ухаан нь хариуцлагатай хиймэл оюун ухаанд дутагдаж байгаа үндсэн бүрэлдэхүүн хэсэг болохын хувьд хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хууль гэж хэлж байна.

Чи буянтай юу?

Энэ асуултад хариулахаасаа өмнө буяны утгыг тайлж өгье, тэгвэл та өөрийн буянтай байдлыг тодруулахын тулд хамтдаа хутгалдаж болно.

Түүнчлэн, буян бол Хиймэл оюун ухааны (AI) салбарт, ялангуяа хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн хүрээнд өсөн нэмэгдэж буй сэдэв гэдгийг мэдээд та гайхах байх. Би эхлээд буянтай холбоотой зарим үндсийг авч үзээд дараа нь хамгийн сүүлийн үеийн эргэцүүлэн бодох болно AI ариун журам. Тиймээ, товчхондоо, хиймэл оюун ухааны ариун журам нь Ёс зүйн хиймэл оюун ухаан, эцсийн дүндээ хиймэл оюун ухааны тухай хуулийн урьдал зүйл гэж алдаршуулж байна. Хиймэл оюун ухааны ёс зүй ба хиймэл оюун ухааны тухай хуулийн талаарх миний үргэлжилсэн, өргөн хүрээтэй мэдээллийг үзнэ үү холбоос энд байна болон холбоос энд байна, цөөхөн хэдэн нэрээ бичих хэрэгтэй.

Эхлээд буян, буян гэж юуг хэлээд байгааг тунгаан бод.

Зарим нь ариун журам бол онцгой ёс суртахууныг харуулах чанар юмуу шинж чанар гэж хэлэх байх. Ариун журамтай хүн ёс суртахууны болон ёс суртахууны дээд хэм хэмжээг дагаж мөрддөг. Латин үг буянтай Ромчууд ёс суртахууны зөв байдал, ялангуяа эр зориг, баатарлаг зан үйлийг онцлон тэмдэглэхийн тулд ашигладаг байсан гэж үздэг. Эдгээр нь бүгд өндөр сэтгэлгээтэй ойлголтууд бөгөөд ариун журамтай байхтай холбоотой чухал утга санаанууд юм.

Түүхийн туршид буяны гол цөм буюу гол чулуу юу болох талаар маш олон гар бичмэлүүд байсан. Гурван гол чулуу, таван гол чулуу, арван гол чулуу байна уу, эсвэл яг хэд байж болох вэ?

Жишээлбэл, гэж нэрлэгддэг хамба лам Буяныг эдгээр дөрвөн зарчим гэж хэлдэг:

1) Болгоомжтой байдал

2) Бат бөх байдал

3) Даруу байдал

4) Шударга ёс (шударга байдал)

Магадгүй та эдгээр дөрвөн үндсэн чулуун дээр тулгуурлан өөрийгөө нухацтай эргэцүүлэн бодох замаар өөрийнхөө буянтай байдлын талаар бодох хэрэгтэй байх. Та дээд зэргийн болгоомжтой байдлыг харуулдаг уу? Та дээд зэргийн тэсвэр тэвчээрийг харуулдаг уу? Та дээд зэргийн даруу зан чанарыг харуулдаг уу? Та хичээл зүтгэлдээ дээд зэргийн шударга ёсыг (шударга ёс) харуулдаг уу?

Та эдгээр суурь арга хэмжээг "үзүүлэн харуулах" ёстой гэж би байнга хэлж байгааг анзаараарай. Тэдгээрийг оюун ухаандаа багтаах нь нэг хэрэг бөгөөд тэдгээрийг бодит ертөнцийн үйлдэл, үйлдлээр дуудах нь огт өөр асуудал байж болох юм. Зөвхөн таны оюун ухаанд буянтай байх боломж бол бидний энд авч үзэхийг зорьж байгаа зүйл биш юм. Та сэтгэлдээ байгаа зүйлийг авч, түүнийг бодит болгох хэрэгтэй.

Яриагаа ярь, дээр нь та чин сэтгэлээсээ ярих хэрэгтэй.

Өөр нэг тал бол та дагаж мөрдөх ёстой бүх үнэхээр буянтай байхын тулд чухал ач холбогдолтой олон чухал чулуунуудын нэг. Хэрэв та хянамгай байдлаараа тэргүүлэгч байсан ч хүч чадал, даруу байдал, шударга ёсны гурван зүйлд бүтэлгүйтсэн эсвэл бүр залхуу байсан бол та өөрийгөө ариун журамтай гэж ухуулж чадахгүй юм шиг санагддаг. Та зөвхөн хэсэгчлэн ийм байна. Энэ бүх зарлигийг дагаж мөрдөж байж л буянын тугийг бардам, чанга мандуулна гэж бид зүтгэнэ. Иймд эдгээр дөрвөн зарлигийн нэг, хоёр, гурвыг л биелүүлэх нь хангалтгүй юм. Та дөрвүүлээ давж магадгүй.

Би өгсөх гэж байгаа тул та дараагийн ээлжинд суусан нь дээр байх.

Сэргэн мандалтын үед болон бусад түүхэн цаг үед бага зэрэг тод харагдаж байсан буянуудын жагсаалтыг судалж үзсэн судлаачид тухайн үед долоон буян байсан гэж баталдаг.

1) Даруу байдал

2) Сайхан сэтгэл

3) Даруу байдал

4) Цэвэр ариун байдал

5) Тэвчээр

6) Энэрэл

7) хичээл зүтгэл

Хэрэв тэр азтай долоо нь үнэхээр тийм байсан бол, хэрэв та эдгээрийг буянтай байх шалгуур болгон ашиглах гэж байгаа бол шаардлагатай дөрвөн буяны өмнөх жагсаалтыг долоо болгон өргөжүүлснийг би харамсаж байна. Энэ нь танд өмнө нь дөрөв л дагаж мөрдөх ёстой байсан бол одоо танд маш их долоон хүн байна гэсэн үг.

Дахин нэг удаа эдгээр долоон гол чулуун дээр өөрийгөө эргэцүүлэн бодож эхлээрэй.

Бар нь өсөж, өсөж байх шиг байна гэж би зүрхлэх болно. Магадгүй та эхэндээ өөрийгөө мэдээж буянтай гэж бодож байсан ч одоо эдгээр долоон гол чулуунд саад бэрхшээл тулгарсаар байгаа тул өөрийн буянаар сайрхах эр зоригоо зоригтойгоор тунхаглахад илүү хэцүү байх болно.

Түлхүүр чулууны тоо нэлээд өндөр байж болно.

Бенжамин Франклин буянтай байх арван гурван үндсэн чулуу байдаг гэдэгт итгэдэг гэдгээ алдартай бөгөөд (түүний намтарт дурдсанчлан):

1) Даруу байдал

2) Чимээгүй

3) Захиалга

4) Шийдвэр

5) хэмнэлттэй байдал

6) Аж үйлдвэр

7) Чин сэтгэл

8) Шударга ёс

9) Зохицуулах

10) Цэвэр байдал

11) Амар амгалан байдал

12) Цэвэр ариун байдал

13) Даруу байдал

Тийм ээ, энэ бол аймшигтай жагсаалт юм.

Та эдгээр бүх гол чулуунууд байх ёстой бөгөөд тэдгээрийн аль нэгэнд нь хамгийн тохиромжтой байх ёсгүй гэдгийг баталж буй гар хөлийг бид тавьж байгаа гэдгийг санаарай. Энэ бол бүгдийг эсвэл юу ч биш гэсэн санал юм. Та байж болно гэдгийг бид хүлээн зөвшөөрч магадгүй хэсэгчилсэн байдлаар Арван гурвын аль нэгийг нь дагаснаараа буянтай. Хэрэв та заримдаа бүгдэд нь бүрэн буянтай байдаг ч зарим үед та ийм бүрэн байдалд хүрэхгүй бол бид таныг хэсэгчлэн буянтай гэдгээ хүлээн зөвшөөрөхөд бэлэн байж магадгүй юм.

Алтан од нь зөвхөн бүх гол чулууг үргэлж олж авдаг хүмүүст л очдог.

Бидний хэд нь энэ хатуу тодорхойлолтыг хангаж чадах вэ?

Хэрэв та ийм түвшинд хүрэхийн тулд гараа өргөж байгаа бол бид танд чин сэтгэлээсээ баяр хүргэж, малгайны үзүүрийг хийх ёстой гэж би бодож байна. Зөвхөн танд мэдэгдэхийн тулд үл итгэгчид болон доромжлогчид таны нэхэмжлэлийн үнэн зөв эсэхэд эргэлзэх нь гарцаагүй. Ингэж зөвлөж байгаарай.

Нэгэнт бид ариун журамтай болсон юм шиг, та ариун журам нь ёс зүйтэй ямар холбоотой вэ гэж гайхаж магадгүй.

Таныг асуусанд баяртай байна.

Нэг их итгэл үнэмшил бол тэр Ёс суртахууныг эрхэмлэдэг зүйл бол ариун журам юм.

Энэхүү авч үзсэн хүрээнд таны сайн чанарууд ёс зүйн хүчин чармайлтыг бий болгоно. Тиймээс, хэн нэгэн нь ёс зүйн зарчим эсвэл дүрмийнхээ жагсаалтыг шуугиулж байх үед тэдгээр нь зөвхөн ариун журамд үндэслэсэн бол чин сэтгэлээсээ үнэнч шударга гэж үнэлэгддэг. Таны сайн сайхан чанарууд нь таны ёс суртахууны дүр төрх рүү чиглэдэг.

Хэрэгтэй зүйрлэл нь тус болно гэж бодож байна.

Бид цэцэг ургуулахын тулд хэдэн үр тарьдаг. Эдгээр цэцэг хэрхэн ургахад хөрс чухал байдаг. Хөрс бол буяны цогц, харин үр, цэцэг нь тэрхүү үндсэн чулуулгаас урган гарч буй ёс суртахуун гэж бид хэлэх ч бэлэн байх. Тохиромжтой ор дэрний цагаан хэрэглэл байхгүй бол өөр юу ч татагдахгүй. Та эдгээр цэцэгсийг ургуулах талаар өдөржин ярьж болно, гэхдээ хөрс нь муу эсвэл асуудалд тохиромжгүй бол та буруу цэцэглэх эсвэл бусад өвчлөлийг урьдчилан харах хэрэгтэй.

Та бүдүүлэг зүйрлэлийг эсэргүүцэхийг урьж байна. Ёс суртахууны эсрэг энэ буян хоёрын талаархи ерөнхий ойлголтыг олж мэдэхийг хүссэн юм. Зарим хүмүүс ариун журам, ёс суртахуун хоёр нэг зүйл гэж хэлэхийг анхаараарай. Бусад нь тэднийг өөр гэж хэлэх болно. Өөрсдийгөө өөр гэж хэлдэг хүмүүсийн дунд ариун журам нь үндсэн чулуулаг, ёс суртахуун нь үүсэлтэй гэдгийг илтгэдэг хуаран байдаг (энэ хооронд өөр өөр үзэл бодолтой бусад баазууд бас байдаг).

Үүнийг илэрхий болгохын тулд эдгээр асуудлыг авч үзэх үндсэн чулуулаг, гарал үүсэлтэй хүн бүр санал нийлдэггүй. Гэсэн хэдий ч бид энэ тусгай хэлэлцүүлгийг үүн дээр үндэслэн үргэлжлүүлнэ. Та ийм таамаглалтай удаан маргаж болох нь дамжиггүй, гэхдээ ядаж энэ нь энд байгаа таамаглал бөгөөд үр дүнтэй яриа өрнүүлэхийн тулд хийсэн таамаглал гэдгийг мэдэж аваарай.

Товчхондоо үүнийг "The" гэж нэрлэе ариун журмын ёс зүй дизайн.

Араагаа бага зэрэг сольж, амттай ёс суртахууны илэрхийлэл, понтжуулалтын өнөөгийн чиг хандлагын талаар бодож үзээрэй.

Өнөө үед ёс зүйн талаар маш их маргаан өрнөж, бид ёс зүйн ямар дүрэм, зарчмуудыг баримтлах ёстойг илэн далангүй асууж байна. Энэ бол хүмүүсийн биеэ авч явах байдал юм. Цаашилбал, та удахгүй харах болно, хиймэл оюун ухаан бас дагаж мөрдөх ёстой ёс зүйн дүрэм, зарчмуудыг санал болгож байна.

Ёс суртахууны дүрэм, ёс зүйн зарчмуудын талаархи ярианы гол зүйл бол бид буруу зүйл дээр анхаарлаа төвлөрүүлж байж магадгүй юм. Ариун журмын ёс суртахууны хуаранд байгаа хүмүүс бид ёс зүйн дүрэм гэх мэт эцэс төгсгөлгүй жагсаалтад автахаас илүүтэйгээр ариун журамд анхаарлаа хандуулах нь илүү ухаалаг байх болно гэж маргах болно. Юуны өмнө ёс суртахууны дүрмүүд урсах ёс суртахууны дүрмүүд гарах болно.

Миний зүйрлэл рүү буцах юм бол, бид ургахыг хүсч буй цэцгийнхээ талаар өдөржин ширүүн хэлэлцүүлэг өрнүүлж болох ч эхлээд сайтар судалж, зохих хөрстэй эсэхээ шалгахгүй бол цэцэг ургуулах хүсэл тэмүүллийн аль нь ч бүтэхгүй. практик хэрэглээ ихтэй. Та нэлээд анхаарал татахуйц мэт санагдах хэдэн баглаа цэцэг сонгохоор шийдсэн гэж төсөөлөөд үз дээ, гэхдээ хөрсийг эхлээд засаагүй тул үрийг нь тарьсны дараа тэд хэзээ ч үр дүнд хүрэхгүй байна.

Ёс суртахууны ямар дүрмийг баримтлах ёстой вэ гэсэн байнгын шуугиан дэгдээхэй болсныг та санал болгож магадгүй юм. Энэ нь улам халуун болж, улам бүр орооцолдож байна. Эргээд бид буяныг нэгдүгээрт тавих ёстой гэсэн дотоод үнэнээсээ улам л холдоно.

гэсэн ухааралтай нийтлэлд Ёс зүй ба ариун журам Судлаачид Мануэль Веласкес, Клэр Андре, Томас Шанкс, СЖ, Майкл Ж.Мейер нар бид энэ зөрүүд зангаа эргүүлж чадна гэсэн анхаарал татахуйц тайлбарыг өгчээ: “Аз болоход, зарчим, дүрэм журамд хэт автсан байдал саяхан сөхөгдөж байна. Зарчмыг онцлох нь ёс зүйн үндсэн бүрэлдэхүүн хэсгийг үл тоомсорлодог гэж маргаж буй хэд хэдэн ёс зүйчид - ариун журам. Эдгээр ёс суртахууны судлаачид хүмүүс юу хийх, хүмүүс хэрхэн ажиллах талаар анхаарлаа төвлөрүүлснээр "ёс суртахууны зарчмууд" нь илүү чухал асуудал болох хүмүүс ямар байх ёстойг үл тоомсорлодог гэдгийг онцлон тэмдэглэв. Өөрөөр хэлбэл, ёс зүйн үндсэн асуулт бол “Би яах ёстой вэ?” биш юм. гэхдээ 'Би ямар хүн байх ёстой вэ?' "Буянтай байх ёс зүй"-ийн дагуу бид хүн төрөлхтний бүрэн хөгжлийг хангах шилдэг, эсвэл нийтлэг сайн сайхны төлөө өөрийгөө зориулах зэрэг тодорхой үзэл санаанууд байдаг." (Санта Клара их сургуулийн Марккула Хэрэглээний ёс зүйн төвд нийтлэгдсэн). ).

Хиймэл оюун ухааны салбарт AI-ийн ёс зүйн зарчим, дүрмийн талаархи саналууд их байдгийг та тодорхойгүй мэдэж байгаа байх. Та Ёс суртахууны AI-ийн бүх зарчмуудыг хялбархан олох боломжтой. Тэд үнэхээр хэдэн арван зоос гэж хэлэх байх.

Цочрол нь, хэрэв та хүсэж байгаа бол, магадгүй, магадгүй, бид хиймэл оюун ухааны ариун журамд зохих ёсоор анхаарал хандуулах ёстой гэсэн сүүлийн үеийн хөөсөрсөн өрсөлдөөнөөс бүрддэг. Хиймэл оюун ухааны ёс зүйн дүрэм, зарчмуудын талаар галзуу, ууртай хуруугаараа заахаа больж, оронд нь хиймэл оюун ухааны ариун журам руу чиглээрэй. Хэрэв бид хиймэл оюун ухааны сайн чанаруудыг олж мэдэж чадвал бусад нь амар хялбар байх болно (ямар ч байсан, эсвэл ядаж илүү ухаалаг хийх).

Хиймэл оюун ухааны ач тусын тухай сэдэв рүү орохын өмнө би эхлээд хиймэл оюун ухаан, ялангуяа хиймэл оюун ухааны ёс зүй, хиймэл оюун ухааны тухай хуулийн талаар зарим нэг чухал суурийг тавьж, хэлэлцүүлгийг контекстийн хувьд оновчтой болгохын тулд үүнийг хиймээр байна.

Ёс зүйн хиймэл оюун ухаан, мөн хиймэл оюун ухааны тухай хуулийн талаарх мэдлэг нэмэгдэж байна

Хиймэл оюун ухааны сүүлийн үеийн эрин үеийг анхлан үзэж байсан AI For GoodЭнэ нь бид хиймэл оюун ухааныг хүн төрөлхтний сайн сайхны төлөө ашиглах боломжтой гэсэн үг юм. -ийн өсгий дээр AI For Good бид ч бас шимтэж байна гэдгийг ойлгосон AI For Bad. Үүнд ялгаварлан гадуурхах байдлаар зохион бүтээгдсэн эсвэл өөрөө өөрчилсөн хиймэл оюун ухаан багтаж, үндэслэлгүй таамаглалыг бий болгож тооцооллын сонголт хийдэг. Заримдаа хиймэл оюун ухаан нь ийм байдлаар бүтээгдсэн байдаг бол бусад тохиолдолд энэ нь тэрхүү тааламжгүй газар руу чиглэдэг.

Өнөөгийн хиймэл оюун ухааны мөн чанарын талаар бид нэг хуудсанд байгаа гэдэгт би итгэлтэй байхыг хүсч байна.

Өнөөдөр мэдрэмжтэй хиймэл оюун ухаан гэж байдаггүй. Бидэнд энэ байхгүй. Мэдрэмжтэй хиймэл оюун ухаан боломжтой эсэхийг бид мэдэхгүй. Бид мэдрэхүйн хиймэл оюун ухаанд хүрэх эсэх, мөн мэдрэмжтэй хиймэл оюун ухаан нь тооцооллын танин мэдэхүйн супернова (ихэвчлэн онцгой байдал гэж нэрлэдэг) хэлбэрээр аяндаа үүсэх эсэхийг хэн ч таамаглаж чадахгүй. холбоос энд байна).

Миний онцолж буй хиймэл оюун ухааны төрөл бол өнөөгийн бидний байгаа мэдрэмжгүй хиймэл оюун ухаанаас бүрддэг. Хэрэв бид ухаалаг хиймэл оюун ухааны талаар таамаглахыг хүсч байвал энэ хэлэлцүүлэг эрс өөр чиглэлд явж магадгүй юм. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​чанартай байх болно. Мэдрэмжтэй хиймэл оюун ухаан нь хүний ​​танин мэдэхүйн дүйцэхүйц гэдгийг та анхаарч үзэх хэрэгтэй. Үүнээс гадна, зарим хүмүүс биднийг супер ухаалаг хиймэл оюун ухаантай гэж таамаглаж байгаа тул ийм хиймэл хиймэл оюун ухаан нь хүмүүсээс илүү ухаалаг болох боломжтой гэж үзэж болно (хэт ухаалаг хиймэл оюун ухааныг судлахын тулд эндээс үзнэ үү. хамрах хүрээ энд байна).

Би бүх зүйлийг дэлхий дээр үлдээж, өнөөгийн тооцооллын мэдрэмжгүй хиймэл оюун ухааныг анхаарч үзэхийг зөвлөж байна.

Өнөөгийн хиймэл оюун ухаан хүний ​​сэтгэхүйтэй эн зэрэгцэхүйц ямар ч загвараар "сэтгэх" чадваргүй гэдгийг ойлгоорой. Та Alexa эсвэл Siri-тэй харьцах үед ярианы чадвар нь хүний ​​чадавхитай төстэй мэт санагдаж болох ч бодит байдал дээр энэ нь тооцооллын шинж чанартай бөгөөд хүний ​​танин мэдэхүйн чадваргүй байдаг. AI-ийн хамгийн сүүлийн үеийн эрин үед тооцооллын хэв маягийг тааруулах хөшүүрэг болох Machine Learning (ML) болон Deep Learning (DL)-ийг өргөнөөр ашигласан. Энэ нь хүний ​​дүр төрхтэй төстэй хиймэл оюун ухааны системийг бий болгоход хүргэсэн. Үүний зэрэгцээ, эрүүл саруул ухаантай төстэй хиймэл оюун ухаан, хүний ​​хүчирхэг сэтгэхүйн танин мэдэхүйн гайхамшгийг агуулсан ямар ч хиймэл оюун ухаан өнөөдөр байхгүй байна.

Өнөөгийн хиймэл оюун ухааныг хүн хэлбэрт оруулахдаа маш болгоомжтой байгаарай.

ML/DL нь тооцооллын хэв маягийг тааруулах хэлбэр юм. Ердийн арга бол шийдвэр гаргах ажлын талаархи мэдээллийг цуглуулах явдал юм. Та өгөгдлийг ML/DL компьютерийн загварт оруулдаг. Эдгээр загварууд нь математикийн хэв маягийг олохыг эрэлхийлдэг. Ийм хэв маягийг олсны дараа, хэрэв олдвол AI систем шинэ өгөгдөлтэй тулгарах үед тэдгээр хэв маягийг ашиглах болно. Шинэ өгөгдлийг танилцуулсны дараа одоогийн шийдвэр гаргахын тулд "хуучин" эсвэл түүхэн өгөгдөлд суурилсан хэв маягийг ашигладаг.

Энэ хаашаа явж байгааг та таах боломжтой гэж бодож байна. Шийдвэр гаргахдаа хэв маягийг нь гаргадаг хүмүүс таагүй хандлагыг өөртөө шингээсэн бол өгөгдөл нь үүнийг нарийн боловч мэдэгдэхүйц байдлаар тусгах магадлал өндөр юм. Machine Learning эсвэл Deep Learning тооцооллын хэв маягийг тааруулах нь өгөгдлийг зохих ёсоор математикийн аргаар дууриахыг оролдох болно. Хиймэл оюун ухаанаар бүтээсэн загварчлалын нийтлэг мэдрэмж эсвэл бусад мэдрэмжтэй талууд байдаггүй.

Цаашилбал, AI хөгжүүлэгчид юу болж байгааг ойлгохгүй байж магадгүй юм. ML/DL дэх нууцлаг математик нь одоо нуугдаж буй хэвийх үзлийг арилгахад хэцүү болгож магадгүй юм. Та хиймэл оюун ухааны хөгжүүлэгчид нуугдаж болзошгүй хэвийх үзлийг туршиж үзэх болно гэж найдаж, хүлээх нь зөв юм, гэхдээ энэ нь санагдсанаас илүү төвөгтэй юм. Харьцангуй өргөн хүрээтэй туршилт хийсэн ч ML/DL-ийн загварт тохирсон загварт хэвийсэн хэвийсэн байдал хэвээр байх магадлал өндөр байна.

Хог хаягдлыг гадагшлуулна гэсэн алдартай эсвэл гутамшигтай зүйр үгийг та зарим талаар ашиглаж болно. Хамгийн гол нь энэ нь хиймэл оюун ухаанд живсэн хэвийсэн ойлголттой адил нууцлагдмал ойлголттой илүү төстэй юм. AI-ийн алгоритм шийдвэр гаргах (ADM) нь аксиомат байдлаар тэгш бус байдлаар дүүрдэг.

Сайн биш.

Энэ бүхэн нь хиймэл оюун ухааны ёс зүйд ихээхэн ач холбогдолтой бөгөөд хиймэл оюун ухааныг хуульчлах оролдлого хийх үед (бүх сургамж болохоос өмнө) олж авсан сургамжид хэрэгтэй цонхыг санал болгодог.

AI-ийн ёс зүйн зарчмуудыг ерөнхийд нь ашиглахаас гадна хиймэл оюун ухааны янз бүрийн хэрэглээг зохицуулах хуультай байх ёстой юу гэсэн асуулт гарч ирж байна. Хиймэл оюун ухааныг хэрхэн зохион бүтээх үйл ажиллагааны цар хүрээ, шинж чанартай холбоотой шинэ хуулиудыг холбооны, муж, орон нутгийн түвшинд боловсруулж байна. Ийм хуулийн төсөл боловсруулж, батлах гэж байгаа ажил бол шат дараатай. Хиймэл оюун ухааны ёс зүй нь наад зах нь зогсолтыг харгалзан үздэг бөгөөд бараг тодорхой хэмжээгээр эдгээр шинэ хуулиудад шууд тусгагдах болно.

Зарим хүмүүс хиймэл оюун ухааныг хамарсан шинэ хуулиуд бидэнд хэрэггүй, одоо байгаа хуулиуд маань хангалттай гэж хатуу маргаж байгааг анхаараарай. Хэрэв бид эдгээр хиймэл оюун ухааны хуулиудын заримыг баталбал нийгэмд асар их давуу талтай хиймэл оюун ухааны дэвшлийг дарж алтан галууг устгах болно гэдгийг тэд урьдчилан анхааруулж байна.

Өмнөх булангууддаа би хиймэл оюун ухааныг зохицуулах хууль тогтоомжийг боловсруулах, батлах үндэсний болон олон улсын янз бүрийн хүчин чармайлтыг авч үзсэн. холбоос энд байна, Жишээлбэл. Би мөн янз бүрийн улс орнуудын тодорхойлж, баталсан хиймэл оюун ухааны ёс зүйн янз бүрийн зарчим, удирдамж, тухайлбал, НҮБ-ын хүчин чармайлт, тухайлбал 200 орчим улс орон баталсан хиймэл оюун ухааны ёс зүйн ЮНЕСКО-гийн багц, үзнэ үү. холбоос энд байна.

Миний өмнө нь сайтар судалж үзсэн AI системтэй холбоотой Ёс суртахууны AI шалгуур буюу шинж чанаруудын чухал жагсаалт энд байна.

• Ил тод байдал
• Шударга ёс ба шударга ёс
• Хор хөнөөлгүй
• үүрэг хариуцлага
• Нууцлалын
• Ашиг тус
• Эрх чөлөө ба бие даасан байдал
• Итгэлцлийн
• Тогтвортой байдал
• Нэр хүнд
• Эв нэгдэл

Хиймэл оюун ухааны ёс зүйн эдгээр зарчмуудыг AI хөгжүүлэгчид, мөн хиймэл оюун ухааныг хөгжүүлэх хүчин чармайлтыг удирддаг, тэр ч байтугай AI системд засвар үйлчилгээ хийж, гүйцэтгэдэг зарчмуудыг нухацтай ашиглах ёстой.

Хиймэл оюун ухааны хөгжил, ашиглалтын бүх амьдралын мөчлөгийн бүх оролцогч талуудыг Ёс зүйн хиймэл оюун ухааны тогтоосон хэм хэмжээг дагаж мөрдөх хүрээнд авч үздэг. "Зөвхөн кодлогч" эсвэл хиймэл оюун ухааныг программчлагч нар хиймэл оюун ухааны ёс зүйн ойлголтыг дагаж мөрдөх ёстой гэсэн ердийн таамаглал байдаг тул энэ нь чухал онцлох зүйл юм. Энд онцлон дурдсанчлан хиймэл оюун ухааныг зохион бүтээх, тариалахын тулд тосгон бүхэлдээ хиймэл оюун ухааны ёс зүйн зарчмуудыг эзэмшиж, дагаж мөрдөх ёстой.

Би бас саяхан шалгаж үзсэн AI эрхийн тухай Билл Энэ нь Шинжлэх ухаан, технологийн бодлогын газрын (OSTP) жилийн турш хийсэн хүчин чармайлтын үр дүнд бий болсон "Хиймэл оюун ухааны эрхийн тухай хуулийн төсөл: Америкийн ард түмэнд автоматжуулсан системийг ажиллуулах нь" нэртэй АНУ-ын засгийн газрын албан ёсны баримт бичгийн албан ёсны гарчиг юм. ). OSTP нь АНУ-ын Ерөнхийлөгч болон АНУ-ын Гүйцэтгэх албанд үндэсний ач холбогдолтой технологи, шинжлэх ухаан, инженерийн янз бүрийн асуудлаар зөвлөгөө өгдөг холбооны байгууллага юм. Энэ утгаараа хиймэл оюун ухааны эрхийн тухай энэхүү Билл нь одоо байгаа АНУ-ын Цагаан ордны зөвшөөрч, баталгаажуулсан баримт бичиг гэж хэлж болно.

AI-ийн эрхийн тухай Билл-д үндсэн таван ангилал байдаг:

• Аюулгүй, үр дүнтэй системүүд
• Алгоритмийн ялгаварлан гадуурхах хамгаалалт
• Мэдээллийн нууцлал
• Мэдэгдэл, тайлбар
• Хүний хувилбарууд, анхаарч үзэх, буцаах

Би эдгээр зарлигийг сайтар нягталж үзсэн холбоос энд байна.

Одоо би хиймэл оюун ухааны ёс зүй болон хиймэл оюун ухааны тухай хуулийн эдгээр сэдвүүдэд тустай суурийг тавьсан тул бид хиймэл оюун ухааны ариун журмын гол сэдэв рүү ороход бэлэн боллоо.

Ёс суртахуунтай хиймэл оюун ухаанд туслахын тулд хиймэл оюун ухааны сайн чанарууд

Би хиймэл оюун ухааны ариун журмын талаар ярихдаа би мөн гэдгийг ойлгоорой үгүй биш мэдрэмжтэй хиймэл оюун ухааны тухай ярьж байна.

Хэрэв (эсвэл зарим нь маргах болно хэзээ) Бид мэдрэмжтэй хиймэл оюун ухаанд хүрдэг, мэдрэмжтэй хиймэл оюун ухаан нь олон тооны буянтай байж болно, үгүй ​​ч байж болно. Оюун ухаант хиймэл оюун ухаан нь өөрийн гэсэн буянтай байх эсэх талаар үхэр гэртээ ирэх хүртэл бид маргаж болно. Зарим шинжээчид ариун журам нь зөвхөн хүн төрөлхтний шинж чанартай бөгөөд оюун ухаант хиймэл оюун ухаанд бүрэн бөгөөд эргэлзээгүй байх болно гэж шаарддаг.

Бусад шинжээчид яг эсрэгээр нь тунхагладаг, тухайлбал, ухаалаг хиймэл оюун ухаан нь мэдээжийн хэрэг буянтай байх болно. Сүүлчийн тохиолдолд бид ухаалаг хиймэл оюун ухаан зөв сайн чанаруудтай байх талаар санаа зовох ёстой. Магадгүй бид мэдрэмжтэй болсон хиймэл оюун ухаандаа ариун журмаа тэжээж чадах болов уу. Хэрэв энэ нь ажиллахгүй бол бид ухаалаг хиймэл оюун ухаан нь ариун журмын ач холбогдлыг ухаарч, тэдгээрийг өөрийн хүслээр бурханчлахуйц ухаантай гэдэгт найдаж байна.

Эргэн тойронд, эргэлдээд л.

Өнөөдрийн үүднээс би орчин үеийн мэдрэмжгүй хиймэл оюун ухаанд анхаарлаа хандуулахыг хүсч байна.

Зохиолч Тило Хагендорф “Хиймэл оюун ухааны ёс зүйг практикт нэвтрүүлэхийг дэмжих ариун журамд суурилсан тогтолцоо” хэмээх өдөөн хатгасан судалгааны өгүүлэлдээ бид үүнийг ашиглахыг санал болгосон. ариун журмын ёс зүй Үүний үр дүнд AI-ийн дөрвөн үндсэн буян байдаг гэсэн итгэл үнэмшилд хүрч магадгүй юм:

1) Шударга ёс

2) Шударга байдал

3) Хариуцлага

4) халамж

Уг баримт бичигт “Ёс зүйн олон санаачилгад хиймэл оюун ухааны салбарт сайн технологийг хөгжүүлэх зарчим, стандартыг тусгасан байдаг. Гэсэн хэдий ч хиймэл оюун ухааны ёс зүйн хэд хэдэн судлаачид эдгээр зарчмуудыг бодитоор хэрэгжүүлэхгүй байгааг онцолж байна. Үүний дараа хиймэл оюун ухааны ёс зүй бодит эргэлтэд орсон боловч зарчмын хандлагаас гажсангүй. Энэхүү баримт бичиг нь ариун журмын ёс зүйд суурилсан зарчмын нэмэлт аргыг санал болгож байна. Энэ нь шударга ёс, үнэнч шударга байдал, хариуцлага, анхаарал халамж гэсэн дөрвөн "Хиймэл оюун ухааны үндсэн ариун журам"-ыг тодорхойлсон бөгөөд эдгээр нь бүгд хиймэл оюун ухааны салбарт ёс зүйтэй шийдвэр гаргах урьдчилсан нөхцөлийг бүрдүүлдэг тодорхой сэдэл төрүүлэгчдийг төлөөлдөг. Философи ба технологи, 2022-р сарын XNUMX).

Хиймэл оюун ухааны дөрвөн буян хэрхэн үүссэн бэ?

Судлаачийн үзэж байгаагаар хиймэл оюун ухааны ёс зүйн олон зарчмуудыг судалж, хиймэл оюун ухааны ариун журам нь юу байх ёстойг эргэн харах боломжтой юм. Та хийх ёстой зүйл бол бага зэрэг ухамсартай дүн шинжилгээ хийх бөгөөд та морассыг сайхан, цэвэрхэн зүйл болгон хувиргаж чадна. "Эдгээр бүх зарчмуудыг шүүж үзэхэд хүн бууруулах арга барилыг ашиглаж, тэдгээрийг бүлэг болгон ангилах замаар бүгдийг хамарсан дөрвөн үндсэн буяныг ялгаж авч болно" (мөн тэнд).

Хиймэл оюун ухааны ёс зүйн зарчим эсвэл дүрмийн тухайд бид дөрвөн хиймэл оюун ухааны буяныг эдгээр биелэлээс бүрдсэн гэж тайлбарлаж болох янз бүрийн график, тоо баримтуудыг оруулсан болно.

• AI шударга ёсны ариун журам: AI ёс зүйн зарчмуудад алгоритмын шударга байдал, ялгаварлан гадуурхахгүй байх, өрөөсгөл хандлагыг багасгах, хамруулах, тэгш байдал, олон талт байдал гэх мэт орно.
• AI Шударга байдлын ариун журам: AI-ийн ёс зүйн зарчмуудад ил тод байдал, нээлттэй байдал, тайлбарлах, тайлбарлах боломжтой, технологийн ил тод байдал, нээлттэй эх сурвалж, алдаа, алдааг хүлээн зөвшөөрөх гэх мэт орно.
• AI хариуцлагын ариун журам: AI ёс зүйн зарчмуудад хариуцлага, хариуцлага, хариуцлага, хуулбарлах чадвар, хууль ёсны байдал, үнэн зөв байдал, урт хугацааны технологийн үр дагаврыг харгалзан үзэх гэх мэт орно.
• AI-ийн халамжийн ариун журам: AI-ийн ёс зүйн зарчмуудад хор хөнөөл учруулахгүй байх, хор хөнөөл учруулахгүй байх, аюулгүй байдал, нууцлал, хамгаалалт, урьдчилан сэргийлэх, далд зардал, ашиг тус, сайн сайхан байдал, тогтвортой байдал, энх тайван, нийтлэг сайн сайхан, эв нэгдэл, нийгмийн эв нэгдэл, эрх чөлөө, бие даасан байдал, эрх чөлөө, зөвшөөрөл гэх мэт.

Энэ төрлийн урвуу инженерчлэлийг хийх ёстой гэсэн байр сууринд өөрийгөө тавиад, оюун санааны хувьд хийх ёстойг судалгааны бүтээлд санал болгож байна: “А-гийн ариун журам нь хиймэл оюун ухааны дадлагажигчдыг өөртөө шингээж авбал тэднийг ийм үйлдэл хийхэд дотооддоо түлхэц өгөх зан чанарыг тодорхойлдог уу? "Автоматаар" тэдний үйл ажиллагааны үр дүн нь X зарчмын шаардлагуудыг хангасан технологийн олдворуудыг бий болгох магадлалыг баталгаажуулдаг арга уу? Эсвэл товчхондоо, А ариун журам нь X зарчмын шаардлагад нийцсэн үр дүнд хүрэх магадлалтай зан төлөвт хувирч байна уу?" (мөн тэнд).

Бид бүгд ижил дүгнэлтэд хүрч чадахгүй гэж хэлэхэд буруудахгүй байх.

Хиймэл оюун ухааны ёс зүйн тодорхой зарчмууд нь тодорхой хиймэл оюун ухааны ариун журамд хамаарах эсвэл өөр нэгэнд үндэслэлтэй тавигдсан, эсвэл нэгээс олон зүйлд хамаарах гэх мэтээр маргах хангалттай орон зай байгаа юм шиг санагдаж байна. Ингэхдээ амархан нааш цааш явж болно. соёлтой, хүмүүжилтэй аялгуугаар (ууртай туйлшралд шилжих шаардлагагүй).

Та дурдсан дөрвөөс илүү нэмэлт хиймэл оюун ухааны сайн чанаруудыг гаргаж ирээд, илүү олон хиймэл оюун ухааны буян бий гэсэн үндэслэлтэй мэдэгдлийг хийснээр энэ хэрчиж, шоо дөрвөлжин рүү илүү гүнзгий орж болно. Та гурав, хоёрхон хиймэл оюун ухааны ач тусыг хэлэхийн тулд тоогоо багасгаж болно гэж бодож байна, гэхдээ энэ нь таныг гүн ухааны болон хагас бодит бус үндэслэлд оруулах магадлалтай.

Хиймэл оюун ухааны дөрвөн буяныг хэт задлан шинжилж эхлэхээсээ өмнө судалгааны баримт бичигт нэмэлт хоёр зүйл байгааг илтгэж байгааг мэдэх хэрэгтэй. хоёр дахь дараалал Холимог болсон хиймэл оюун ухаан. Хоёр дахь зэрэглэлийн AI-ийн нэмэлт хоёр давуу тал нь:

Эдгээр нь:

• Хиймэл оюун ухаан болгоомжтой байхын эрхэм чанар: AI-ийн ёс зүй нь 1-р системийн сэтгэлгээ, далд өрөөсгөл хандлага, бүлэг доторх өөдрөг үзэл, өөртөө үйлчилдэг өрөөсгөл хандлага, үнэ цэнийн үйл ажиллагааны зөрүү, ёс суртахууны хамаарал гэх мэтийг агуулдаг.
• AI-ийн бат бөх чанар: AI-ийн ёс зүй нь нөхцөл байдлын хүч, үе тэнгийн нөлөө, эрх мэдэл гэх мэтийг шаарддаг.

Эдгээр хоёр дахь зэрэглэлийн хиймэл оюун ухааны ариун журмын үндэслэл, үндэс нь хэсэгчлэн энэ ойлголт дээр суурилдаг: “Хэдийгээр эдгээр хоёр ариун журам нь хязгаарлагдмал ёс суртахууныг даван туулахад тусалж болох ч нэгэн зэрэг үндсэн ариун журамд нийцүүлэн амьдрах боломжийг олгодог. Хувь хүний ​​сэтгэл зүйн хандлага, нөхцөл байдлын хүч нь шударга, үнэнч шударга, хариуцлагатай эсвэл халамжтай ажиллахад саад болдог. Болгоомжтой байдал, тэсвэр хатуужил нь хиймэл оюун ухааны үндсэн сайн чанаруудыг хязгаарлаж болох олон хүчин зүйлийн хариулт бөгөөд болгоомжтой байх нь үндсэндээ хувь хүний ​​хүчин зүйлд чиглэдэг бол тэсвэр хатуужил нь хиймэл оюун ухааны судалгаа, хөгжлийн явцад ёс зүйн шийдвэр гаргахад саад учруулж болох хувь хүнээс гадуурх асуудлыг шийддэг” (мөн тэнд).

Хэрэв би санал болгож буй хиймэл оюун ухааны сайн чанаруудын багцыг нэгтгэн дүгнэх гэж оролдвол эдгээр нь дараах байдалтай байна.

• Хууль зүйн
• Шударга
• үүрэг хариуцлага
• тусламж
• Зорилго (хоёр дахь эрэмбэ)
• Хүч чадал (хоёр дахь эрэмбэ)

Эдгээр нь хиймэл оюун ухааны ёс зүйн дүрэм, зарчмуудтай уялдаа холбоотой байх хандлагатай байдаг:

• AI Шударга ёсны буян: AI-ийн ёс зүйн зарчмуудад алгоритмын шударга байдал, ялгаварлан гадуурхахгүй байх, өрөөсгөл байдлыг багасгах, хамруулах, тэгш байдал, олон талт байдал гэх мэт орно.
• AI Шударга байдлын ариун журам: AI-ийн ёс зүйн зарчмуудад ил тод байдал, нээлттэй байдал, тайлбарлах, тайлбарлах боломжтой, технологийн ил тод байдал, нээлттэй эх сурвалж, алдаа, алдааг хүлээн зөвшөөрөх гэх мэт орно.
• AI Хариуцлагын ариун журам: AI-ийн ёс зүйн зарчмуудад хариуцлага, хариуцлага, хариуцлага, хуулбарлах чадвар, хууль ёсны байдал, үнэн зөв байдал, урт хугацааны технологийн үр дагаврыг харгалзан үзэх гэх мэт орно.
• AI халамжийн буян: AI-ийн ёс зүйн зарчмуудад хор хөнөөл учруулахгүй байх, хор хөнөөл учруулахгүй байх, аюулгүй байдал, хувийн нууцлал, хамгаалалт, урьдчилан сэргийлэх, далд зардал, ашиг тус, сайн сайхан байдал, тогтвортой байдал, энх тайван, нийтлэг сайн сайхан, эв нэгдэл, нийгмийн эв нэгдэл, эрх чөлөө, бие даасан байдал, эрх чөлөө, зөвшөөрөл гэх мэт орно.
• AI ухаалаг байдлын ариун журам (хоёрдугаар зэрэглэл): AI-ийн ёс зүй нь 1-р системийн сэтгэхүй, далд хэвшмэл байдал, бүлэг доторх өөдрөг үзэл, өөртөө үйлчилдэг өрөөсгөл хандлага, үнэ цэнийн үйл ажиллагааны зөрүү, ёс суртахууны хамаарал гэх мэтийг агуулдаг.
• Хиймэл оюун ухаан бат бөх байдлын буян (хоёрдахь зэрэглэл): AI-ийн ёс зүй нь нөхцөл байдлын хүч, үе тэнгийн нөлөө, эрх мэдэл гэх мэтийг агуулдаг.

Энэ бүхний талаар ширүүн мэтгэлцэх нь ажил хэрэг болгоход хялбар байдаг.

Та нарын зарим нь одоо санал болгож буй хиймэл оюун ухааны сайн чанаруудын талаар аль хэдийн ухаангүй байгаа гэдэгт би итгэлтэй байна. Энэ бол буян биш, зарим нь хашгирч магадгүй юм. Та нарын зарим нь хашгирч байгаа байх. Нэлээд хашгирах тэмцээн үүсч магадгүй юм.

Судалгаагаар хүлээгдэж буй янз бүрийн шүүмжлэл, таагүй байдлын дунд миний бодлоор хамгийн чухал зүйл бол төлөөлөгч төвтэй, үйлдэл төвтэй сонгодог асуудлуудтай холбоотой юм. Төлөөлөгч төвтэй үзэл нь үндсэндээ бид төлөөлөгч эсвэл жүжигчнийг тодорхой бодолтой байхыг хүсдэг бол үйлдэл төвтэй үзэл нь хийж буй үйлдлүүд дээр төвлөрөх хандлагатай байдаг.

Магадгүй зарим нь AI-ийн ариун журам нь агентлаг эсвэл төлөөлөгч төвтэй талуудтай холбоотой байдаг бол AI ёс зүй нь үйлдэлд төвлөрсөн бүрэлдэхүүн хэсгүүдийн талаар илүү их ярьдаг гэж хэлэх байх. Бид хиймэл оюун ухаан хөгжүүлэгчид болон хиймэл оюун ухааны системийг “сэтгэцийн” төрөл (AI-ийн хувьд програмчлал) болгон AI Virtues-д үндэслэхийг хүсч байгаа бөгөөд хиймэл оюун ухааны хөгжүүлэгчид болон хиймэл оюун ухааны үйлдлүүд нь Ёс зүйн AI зарлигаар дүрслэгддэг. .

Түүнчлэн зарим хүмүүс хиймэл оюун ухааны ач тусыг ашиглах нь хиймэл оюун ухаан хэзээ ч буруу зүйл хийхгүй гэсэн үг юм шиг буруугаар тайлбарлах аюултай. Эсвэл бид хиймэл оюун ухааны ариун журам боловсруулахдаа гацаж, үүнтэй зэрэгцэн хиймэл оюун ухааны ёс зүйн зарчмууд эсвэл дүрмийг мартах болно. Сайн эсвэл муу зүйл хийхгүй байгаа нь нүүлгэн шилжүүлсэн тайлбарлагч үнэхээр хийх ёстой гэж хашгирах ажлыг сатааруулж, төөрөгдүүлдэг тогтолцоо гэж AI-ийн буяныг бууруулах олон сэдэл төрүүлж болно.

Дүгнэлт

Бидэнд хиймэл оюун ухаан хэрэгтэй юу?

Хэрэв тийм бол хиймэл оюун ухааны ёс зүйд аль хэдийн шингэсэн хүмүүс тэдэнд хэрэгтэй байж, халуун дотноор хүлээж авах уу, эсвэл хиймэл оюун ухааны ариун журам нь давхардал, хуурамч хууран мэхлэлт, ядаргаатай анхаарал сарниулах зүйл мэтээр харагдах уу, эсвэл аль хэдийн сэтгэл татам боловч зохисгүй хуваагдал мэт дүрслэгдэх үү. AI-г зохион бүтээж, ашиглаж буй компаниудын оюун ухаан, гарт ёс суртахуунтай AI-г оруулах гэсэн асар их хүчин чармайлт.

Хиймэл оюун ухааны ёс суртахууны олон дэмжигчид бизнесийн удирдагчдыг сонсох, хиймэл оюун ухааныг хүлээн авагчдад ёс зүйн AI-н зарчмуудыг нухацтай авч үзэхийг шаардахын тулд аль хэдийн хэт их ачаалалтай байдаг (Миний хиймэл оюун ухааны ёс зүйн зөвлөлийн талаарх мэдээллийг үзнэ үү. холбоос энд байна, Ёс суртахууны хиймэл оюун ухааны тугийг барьж буй хүмүүсийн ажилчдын ядарсан байдлын шинжилгээг үзнэ үү холбоос энд байна). Хиймэл оюун ухааны ариун журамд үзүүлэх нийтлэг хариу үйлдэл нь AI-ийн ёс зүйн дүрмүүдээр дүүрэн байх болно гэж та төсөөлж болно, тиймээс бид хиймэл оюун ухааны ариун журмын давхарга руу орохоосоо өмнө эдгээрийг бүрэн гүйцэд хэрэглэцгээе.

Эсрэг аргумент нь бид санамсаргүй байдлаар алгасаж эсвэл үндсэн суурь руугаа орхисон явдал юм. AI-ийн ариун журам аль эрт тавигдсан байх ёстой. Хэдийгээр бид цагийг эргүүлж чадахгүй ч алдсан цагаа нөхөхийг хичээж чадна. Хиймэл оюун ухааны ёс суртахуунтай ижил хүчирхэг механикжуулалт нь хиймэл оюун ухааны ариун журмын хоцрогдсон агуулгыг шингээж чадах нь дамжиггүй.

Үүнд хүр, гомдоллохоо боль.

Фридрих Ницше: "Өрсөлдөгчдөө тэр чанар бүрэн байхгүйг анзаарах хүртлээ бид буяныг эзэмшихэд онцгой ач холбогдол өгдөггүй." Дараа нь гарч ирсэн гэдэгтэй та санал нийлж магадгүй AI For Bad Энэ нь хиймэл оюун ухааны ёс суртахууны хэрэгцээг ойлгоход түлхэц өгөөд зогсохгүй хиймэл оюун ухааны ариун журмыг хүлээн зөвшөөрөх хүсэл эрмэлзлийг маань мөн (эсвэл тэгэх ёстой байсан ч) бий болгосон.

Энэ тухай сүүлчийн үгийг Ромын төрийн зүтгэлтэн Маркус Туллиус Цицеронд хэлсэн бөгөөд тэрээр: “Дайсан хаалганы дотор байна; Энэ нь бидний тансаглал, өөрсдийн тэнэглэл, гэмт хэргийн шинжтэй тэмцэх ёстой." Харж байна уу, муу муухай нь AI-ийн хаалган дотор аль хэдийн байгаа бөгөөд бид бузар муугийн түрлэгийг эсэргүүцэхийн тулд ариун журамд анхаарлаа хандуулах хэрэгтэй болж магадгүй юм.

Хиймэл оюун ухааны ариун журам нь үүдэнд тэвчээртэй, гэхдээ тууштай хүлээж байна.