فەرمان دراوە بە زیرەکی دەستکرد، سەرپێچی کردووە

ئەم دوو مۆدێلە لە زیرەکی دەستکرد، پێشکەوتووترین مۆدێلن کە رێگەیان پێدراوە بەر لە وڵامدانەوە بیر بکەنەوە.

کۆمپانیای پاڵیساید کە ئیش لەسەر مەترسییەکانی زیرەکی دەستکرد دەکات، تێگەیشتووە ئەم دوو مۆدێلە، جار جار نافەرمانی دەکەن و کاتێک فەرمان دەدرێت کە بکۆژێنەوە و لە ئیش کردن بەردەوام نەبن، فەرمانەکە جێبەجێ ناکەن.

پاڵیساید ئاماژەی داوە: ئەمە یەکەم جارە دەبینن ئەم دوو مۆدێلە لە زیرەکی دەستکرد نافەرمانی دەکەن، سەرەڕای ئەوەی بە روونی فەرمانیان پێدرابوو کە بکوژێنەوە.

کۆمپانیاکە رایگەیاندووە بۆ تاقی کردنەوەی زیاتر، بە دوو مۆدێلی o3  و o4-mini OpenAI  زیاتر لە 100 جار فەرمانیان داوە بۆ کوژانەوە لە ئیش کردن، o3  توانی 7 جار نەفەرمانی بکات و بەسەر فەرمانی کوژانەوەدا باز بدات، هەروەها مۆدیلی o4-mini OpenAI دوازدە جار نافەرمانی کردووە.

سەرچاوە: https://www.livescience.com/technology/artificial-intelligence/openais-smartest-ai-model-was-explicitly-told-to-shut-down-and-it-refused