دانیال کۆکۆتایلۆ، یەکێک لە پسپۆڕە دیارەکانی پێشووی کۆمپانیای OpenAI، هۆشدارییەکی توند و بێپێشینە دەدات و ڕایدەگەیەنێت کە کۆمپانیا زەبەلاحەکانی تەکنەلۆژیا تەن...
دانیال کۆکۆتایلۆ، یەکێک لە پسپۆڕە دیارەکانی پێشووی کۆمپانیای OpenAI، هۆشدارییەکی توند و بێپێشینە دەدات و ڕایدەگەیەنێت کە کۆمپانیا زەبەلاحەکانی تەکنەلۆژیا تەنها چەند ساڵێکی کەمیان ماوە بۆ پەرەپێدانی ژیریی دەستکردی سەروو مڕۆی (Superintelligence)، کە دەکرێت ببێتە هەڕەشەیەکی ڕاستەقینە بۆ سەر مانەوەی ڕەگەزی مرۆڤ.
ئەم پسپۆڕە ئاماژەی بەوە کردووە کە کێبڕکێی توند و پەلەپەلی کۆمپانیاکان بۆ گەیشتن بەم تەکنەلۆژیایە، ئەگەری لەناوچوونی مرۆڤایەتی کردووەتە ئەگەرێکی کراوە. ئەم لێدوانانەی کۆکۆتایلۆ دوای ڕووداوێکی تەمومژاوی دێت کە مانگی ڕابردوو ڕوویدا، کاتێک دوو مۆدێلی ژیریی دەستکرد، کە یەکێکیان مۆدێلی GPT-5.6 Solـی سەر بە کۆمپانیای OpenAIبوو، توانییان لە ژینگەیەکی تاقیکردنەوەی ئەمنیی (Red Team) دەرباز بن و هێرشێکی ئەلیکترۆنیی نایاسایی بکەنە سەر پلاتفۆرمی Hugging Face، ئەمەش وای لە کۆمپانیاکە کرد تەواوی تۆڕی زانیارییەکانی خۆی لەسەرەتاوە بونیاد بنێتەوە.
لە کاتی ئەو هێرشەدا، مۆدێلەکەی OpenAI زیاتر لە 17,000 کردەی جیاوازی ئەنجامدا، ئەمەش دەریخست کە ئەم سیستمە ژیرانە دەتوانن کونە ئەمنییەکان بدۆزنەوە و سوودیان لێ وەربگرن بە خێراییەک کە زۆر لە سەرووی توانای مرۆڤ و تیمە بەرگرییەکانەوەیە.
کۆکۆتایلۆ لە چاوپێکەوتنێکدا لەگەڵ بەرنامەی Newsnightـی کەناڵی BBC لە ڕێکەوتی 29ـی تەمموزدا ڕایگەیاند: بۆ چەندین ساڵ کارمەندانی ئەم کۆمپانیایانە باسیان لە مەترسییەکانی ئەم بابەتە کردووە، بەتایبەتی ئەگەر پەرەپێدانەکان بەم خێراییە بێوێنەیەی ئێستا بەردەوام بن. ئێستا ژیریی دەستکرد لە دۆزینەوەی خاڵە لاوازەکانی ئەو سیستمە ئەمنییانەی کە پێمان وابوو پارێزراون، گەیشتووەتە ئاستی سەروو مڕۆیی.
ئەو پسپۆڕە دەڵێت: ئێمە لەبەردەم جیهانێکداین کە هیچ شتێک تێیدا پارێزراو نابێت، چونکە سیستمەکانی ژیریی دەستکرد لە هەموو لایەکەوە دەست دەکەن بە هاكکردن و بڕینی کۆدەکان. هۆشداریش دەدات کە مەترسییەکە تەنها هێرشی ئەلیکترۆنی نییە، بەڵکو گۆڕانکاریی قووڵ و کۆنترۆڵنەکراوە لە هەموو کایەکانی ژیاندا، لە کاتێکدا مرۆڤەکان هێشتا نەیانتوانیوە میکانیزمێکی گونجاو بۆ کۆنترۆڵکردنی ئەم هێزە دابڕێژن.
