Anthropic хиймэл оюун загваруудын үнэмшлийг батлах систем боловсруулж байна
TechCrunch
Russell Brandom ·

FlashProve нэртэй энэ систем нь хэн бүхэнд хиймэл оюун загварын хариулт тухайн өөрийгөө хэлсэн загвараас үнэхээр гарсан эсэхийг шалгах боломж олгоно.
Anthropic хиймэл оюуны загвар бүтээгчид тухайн гаралтыг аль загвар үүсгэснийг баталгаажуулах нээлттэй эхийн систем боловсруулж байгаа бөгөөд энэ тухай Мягмар гарагт нийтлэгдсэн блог нийтлэлд дурджээ. FlashProve нэртэй энэ систем нь судлаачдын “баталгаатай инференс” гэж нэрлэдэг зүйлийг хангахад зориулагдсан. Энэ нь тодорхой гаралт тодорхой загвараас гарсныг харуулах криптограф баталгаа, өөрөөр хэлбэл математик баталтыг бүрдүүлнэ. Ингэснээр хэрэглэгчид өөрт ирсэн хариултыг өөрийнхөө ашиглаж буй загвараас гарсан эсэхээ баталгаажуулах боломжтой болно.
Имэйлийн криптограф гарын үсэг нь хүлээн авагч мессежийг заасан илгээгчээс ирсэн эсэхийг баталгаажуулдагтай адил, FlashProve нь загварыг өөр загвараар дуурайхыг оролдсон хуурамч этгээдийн эсрэг найдвартай байх болно. Энэ нь хуурамч этгээд загвар бүтээж, ажиллуулж буй лаборатори өөрөө байсан ч хамаарна. Судлаачдын онцолсноор систем нь AI компани зардлаа бууруулахын тулд нууцаар хямд загвар сольж, эсвэл гүйцэтгэлийн үр дүнгээ өндөржүүлэхийн тулд илүү үнэтэй загвар оруулахаас сэргийлэхэд ашиглагдаж болно.
FlashProve-ийг гуравдагч этгээдийн мэдэгдлийг шалгахад ч ашиглаж болно. “Хөгжүүлэгч өөрийн программ санг дээд түвшний кибер аюулгүй байдлын загвараар эмзэг байдлыг шалгасан гэж мэдэгдэж болно, эсвэл компани бизнес төлөвлөгөөгөө тохирох загвараар зөвшөөрүүлсэн гэж мэдэгдэж болно. Хэрэглэгч эдгээр мэдэгдлийг хэрхэн баталгаажуулах вэ?” гэж судлаачид бичжээ.
Системийг ажиллуулахын тулд AI лабораториуд гаргасан загвар бүрийнхээ “хурууны хээ”-г нийтлэх шаардлагатай. Үүнийг дараа нь тодорхой гаралттай тааруулж, криптографаар баталгаажуулах боломжтой. Гол нь, хурууны хээ нь загварын жинг, тухайлбал загвар хэрхэн ажиллахыг тодорхойлдог дотоод тоонуудыг илрүүлдэггүй. Anthropic, OpenAI зэрэг хаалттай загвар бүтээгчид эдгээрийг нууцад байлгадаг. Иймд лабораториуд хамгийн үнэ цэнтэй хөрөнгөө алдалгүй хурууны хээгээ нийтлэх боломжтой бөгөөд систем нь арилжааны загваруудтай ч ажиллана. Системийг бас хөнгөн хийсэн тул баталгаажуулалтыг локал төхөөрөмж дээр хийх боломжтой.
Танилцуулгын хүрээнд судлаачид системийн янз бүрийн хэсгийн дэлгэрэнгүй техникийн тодорхойлолт болон ажиллагаатай код гаргасан бөгөөд үүнийг GitHub дээр нээлттэй эхийн лиценз дор олон нийтэд нээлттэй тавьсан. Системийн судалгаа үргэлжилж байгаа бөгөөд Anthropic эсвэл бусад лабораторид нэвтрүүлэх төлөвлөгөө одоогоор байхгүй.
“Энэхүү судалгааны нийтлэл нь эцсийн судалгааны хөтөлбөр биш, харин завсрын ахицаа хуваалцах зорилготой юм” гэж судлаачид танилцуулгын нийтлэлдээ тайлбарлав. “Бид үүнийг өөр хүмүүс бидний хийсэн зүйлийг харж, авч, сайжруулах зорилгоор шууд хуваалцаж байна.”
Эх сурвалж
TechCrunch
Anthropic is working on a system to prove AI models’ identity





