Süni intellektə 35 saniyəlik STOP
OpenAI-nin yeni sistemi təhlükə zamanı süni intellekti 35 saniyəyə dayandıra bilir.
Süni intellekt sahəsində dünyanın aparıcı şirkətlərindən biri olan OpenAI yeni təhlükəsizlik sistemi hazırlayıb. ChatGPT-nin yaradıcısı olan şirkət Control Room adlı bu texnologiya ilə süni intellekt modellərinin fəaliyyətinə daha ciddi nəzarət etməyi hədəfləyir.
Sistemin ən diqqətçəkən xüsusiyyəti təhlükəli vəziyyət yarandıqda süni intellektin yeni nəticələr yaratmasını maksimum 35 saniyə ərzində dayandıra bilməsidir.
Control Room necə işləyir?
Yeni sistem OpenAI-nin tədqiqat infrastrukturunda çalışan süni intellekt tapşırıqlarını mərkəzləşdirilmiş şəkildə izləyir. Əgər hər hansı tapşırıqda təhlükəsizlik riski müəyyən edilərsə, onun dayandırılması barədə qərar verilə bilər.
Maraqlı məqam budur ki, sistem süni intellektin özünün dayanmaq əmrinə əməl etməsinə güvənmir. Model yeni nəticə yaratmaq istədikdə, xüsusi hesablama mühərriki Control Room-dan icazə alır. Tapşırıq dayandırılıbsa, sorğu avtomatik rədd edilir.
OpenAI sistemi texniki nasazlıqlara qarşı da qoruyub. Control Room xidməti sıradan çıxarsa, yeni sorğulara icazə verilmir. Şirkət 35 saniyəlik gecikməni aradan qaldıraraq müdaxilə müddətini sıfıra yaxınlaşdırmaq üzərində də işləyir.
Qeyd edək ki, Control Room hazırda OpenAI-nin daxili tədqiqat infrastrukturu üçün nəzərdə tutulub. Bu, bütün ChatGPT istifadəçilərinin söhbətlərinin dayandırılması demək deyil.
Süni intellekt sürətlə inkişaf etdikcə onun təhlükəsizliyinə nəzarət də daha böyük əhəmiyyət qazanır. OpenAI-nin yeni sistemi bu istiqamətdə atılan diqqətçəkən addımlardan biridir.
