সেপ্টেম্বরের শুরু থেকে AI রিসার্চের কিছু লোকজন AI'এর self improvement নিয়ে কিছু কথা বলেছে যা' অনেক মানুষকে ইহার ক্ষতিকর দিক নিয়ে ভাবিয়ে তুলেছে, ও আমেরিকার ষ্টক-মার্কেটে প্রভাব ফেলেছে; এখন নিউইয়র্ক সময় সকাল ৬:০০টা, ১টি ষ্টক-ফিউচার প্রায় ৬০০ পয়েন্ট নীচে নেমেছে।

আপনারা AI'এর যেই মডেলটি ব্যবহার করছেন করছেন, সেটাকে যদি প্রশ্ন করেন," can you add code to your underlying software to improve yourself?

দেখবেন, উত্তরে বলছে, "No. I can write code, including code that could improve a program, but I cannot modify my own underlying software, model weights, or system instructions." সাধারণ মডেল থেকে এই উত্তর ঠিক আছে।

কিন্তু আসলে, এমন শতশত মডেল তৈরি হচ্ছে ডিফেন্স, রিসার্চ, স্যাটেলাইট ও সাইবার সিকিউরিটির জন্য, যেগুকে self improvement করতে শিখানো হচ্ছে; এটি ১টি বিপদজনক ডেভেলপমেন্ট; AI নিজকে এমনভাবে improve করতে পারবে, যা মানুষ ঠিক আগের থেকে অনুমান করতে পারবে না, হয়তো; তখন ক্যাটাস্ট্রফিক কিছু ঘটায়ে বসতে পারে।