OpenAI 31-р сарын XNUMX-нд ChatGPT-ийн математикийн асуудал шийдвэрлэх чадавхийг сайжруулах хүчин чармайлтаа зарлаж, хиймэл оюун ухааны (AI) хий үзэгдлийн тохиолдлыг бууруулах зорилготой. OpenAI нь хий үзэгдэлийг багасгах нь зохицсон AGI хөгжүүлэх чухал алхам гэж онцлон тэмдэглэв.
Гуравдугаар сард ChatGPT-ийн хамгийн сүүлийн хувилбар болох GPT-4-ийг нэвтрүүлсэн нь хиймэл оюун ухааныг илүү өргөн хүрээг хамарсан. Гэсэн хэдий ч хиймэл хиймэл оюун ухааны чатботууд бодит үнэн зөв байдлын талаар удаан хугацааны турш тэмцэж, заримдаа "хий үзэгдэл" гэж нэрлэгддэг худал мэдээлэл үүсгэдэг. Эдгээр хиймэл оюун ухааны хий үзэгдэлийг багасгах хүчин чармайлтыг өөрсдийн вэбсайт дээрх нийтлэлээр дамжуулан зарлав.
AI хий үзэгдэл нь хиймэл оюун ухааны систем нь бодит байдал дээр буруу, төөрөгдүүлсэн эсвэл бодит мэдээллээр дэмжигдээгүй гаралтыг үүсгэдэг тохиолдлуудыг хэлдэг. Эдгээр хий үзэгдэл нь худал мэдээлэл үүсгэх, байхгүй үйл явдал, хүмүүсийг зохиох, тодорхой сэдвүүдийн талаар буруу мэдээлэл өгөх гэх мэт янз бүрийн хэлбэрээр илэрч болно.
OpenAI нь "үр дүнгийн хяналт" болон "үйл явцын хяналт" гэсэн хоёр төрлийн санал хүсэлтийн үр нөлөөг шалгах судалгаа хийсэн. Үр дагаврын хяналт нь эцсийн үр дүнд тулгуурласан санал хүсэлтийг агуулдаг бол үйл явцын хяналт нь бодлын гинжин хэлхээний алхам бүрийг оруулдаг. OpenAI нь эдгээр загваруудыг математикийн бодлого ашиглан үнэлж, олон шийдлийг гаргаж, санал хүсэлтийн загвар бүрийн дагуу хамгийн өндөр үнэлгээтэй шийдлийг сонгосон.
Нарийвчилсан дүн шинжилгээ хийсний дараа судалгааны баг үйл явцын хяналт нь хүний зөвшөөрөгдсөн үйл явцыг дагаж мөрдөхийг дэмжсэнээр өндөр гүйцэтгэлтэй болохыг олж мэдэв. Үүний эсрэгээр, үр дүнгийн хяналтыг тууштай шалгах нь илүү хэцүү болсон.
OpenAI нь үйл явцын хяналтын үр дагавар нь математикийн хүрээнээс давсан гэдгийг хүлээн зөвшөөрсөн бөгөөд түүний үр нөлөөг өөр өөр салбарт ойлгохын тулд нэмэлт судалгаа хийх шаардлагатай байна. Хэрэв ажиглагдсан үр дүн илүү өргөн хүрээнд үнэн байвал үйл явцын хяналт нь үр дүнгийн хяналттай харьцуулахад гүйцэтгэл, зохицуулалтын таатай хослолыг санал болгож чадна гэдгийг илэрхийлэв. Судалгааг хөнгөвчлөхийн тулд тус компани энэ чиглэлээр хайгуул, судалгаа хийхийг урьж, үйл явцын хяналтын иж бүрэн мэдээллийн багцыг олон нийтэд ил болгосон.
Холбогдох: Хиймэл оюун ухааны эрэлт Nvidia-г 1Т долларын клуб болгон богино хугацаанд эргүүлэв
Хэдийгээр OpenAI нь хий үзэгдэлтэй холбоотой судалгааг явуулахад хүргэсэн тодорхой тохиолдлуудыг өгөөгүй ч саяхан тохиолдсон хоёр тохиолдол нь бодит амьдрал дээрх асуудлын жишээг харуулсан.
Саяхны нэгэн үйл явдалд Мата Авианкагийн эсрэг хэргийн өмгөөлөгч Стивен А.Шварц чатботыг судалгааны эх сурвалж болгон ашиглаж байгаагаа хүлээн зөвшөөрсөн байна. Гэсэн хэдий ч ChatGPT-ээс өгсөн мэдээлэл нь бүхэлдээ зохиомол мэдээлэл болж, тулгамдаж буй асуудлыг онцолсон юм.
OpenAI-ийн ChatGPT нь хий үзэгдэлтэй тулгардаг хиймэл оюун ухааны системүүдийн цорын ганц жишээ биш юм. Майкрософт компанийн хиймэл оюун ухаан XNUMX-р сард чатбот технологийнхоо үзүүлэнгийн үеэр Gap, Lululemon зэрэг компаниудын орлогын тайланг шалгаж, буруу тоо гаргасан байна.
сэтгүүл: 25 мянган худалдаачин ChatGPT-ийн хувьцааны сонголт, хиймэл оюун ухаан шоо шидэх гэх мэтээр бооцоо тавьдаг.
Эх сурвалж: https://cointelegraph.com/news/here-s-how-openai-plans-to-cleanse-chatgpt-from-false-information