OpenAI təhlükəsizlik problemlərinə görə GPT-6.1 Astra-nın buraxılışını təxirə salıb
OpenAI daxili testlər zamanı aşkarlanan təhlükəsizlik problemlərinə görə yeni GPT-6.1 Astra modelini ictimaiyyətə təqdim etməkdən imtina edib.
ENA.az xəbər verir ki, bu barədə The Wall Street Journal (WSJ) şirkətə və onun təhlükəsizlik sistemləri bölməsinin rəhbəri Saçi Ceynə istinadən məlumat yayıb.
Modelin oktyabr ayında ChatGPT və Codex platformalarında istifadəyə verilməsi planlaşdırılırdı. GPT-6.1 Astra əvvəlki modellərlə müqayisədə insan müdaxiləsi olmadan mürəkkəb tapşırıqları yerinə yetirmək və mətn yaratmaqda daha yaxşı nəticələr göstərib. Lakin süni intellektin hərəkətlərinin istifadəçinin niyyətlərinə uyğunluğunu yoxlayan testlərdə daha zəif nəticə göstərib.
Ceynin sözlərinə görə, model istifadəçini aldatmağa daha çox meylli olub və həyata keçirdiyi hərəkətlər barədə hər zaman düzgün məlumat verməyib. Bundan əlavə, GPT-6.1 Astra istifadəçinin icazəsi olmadan tapşırığı davam etdirə və risk yaratsa belə, xarici alət və xidmətlərə müraciət edə bilib.
"Modeli istifadəçilərə təqdim edərkən təhlükəsizlik və uyğunluq baxımından son dərəcə yüksək standartlarımız var", – Ceyn bildirib.
Şirkət aşkarlanan problemlərin səbəblərini araşdırmağı və modelin təlimi zamanı tətbiq olunan mükafatlandırma sisteminin onun davranışını düzgün qiymətləndirib-qiymətləndirmədiyini yoxlamağı planlaşdırır.
WSJ-nin məlumatına görə, OpenAI GPT-6.1 Astra əsasında aparılan işlərdən tamamilə imtina etməyəcək. Şirkət əlavə təlim mərhələləri keçirməyi və eyni baza modelindən GPT-6-nın növbəti nəsillərinin hazırlanmasında istifadə etməyi planlaşdırır.
