المواضيع · المخاوف في ميزان الواقع
السيطرة والمخاطر بعيدة المدى
فقدان السيطرة والمخاطر الكارثية والوجودية، والنقاش الدائر حولها.
- لو أصبح الذكاء الاصطناعي أقدر منا بكثير، كيف سنعيش معه؟ دليل هادئ لسؤال افتراضي
يرى بعض الخبراء أن الذكاء الاصطناعي قد يتجاوز يومًا ما قدرات الإنسان في معظم المجالات، ويرى آخرون أن الأساليب الحالية لن تبلغ ذلك. تشرح هذه الصفحة المصطلحات، وتعرض طيف آراء الخبراء دون انحياز في مسألة التوقيت، وتصف كيف يمكن أن يتفاعل البشر مع ذكاء اصطناعي بالغ القدرة، مع تمييز واضح لكل ما هو افتراضي.
- CR-R01
"Mitigating the risk of extinction from AI should be a global priority alongside other societal-scale risks such as pandemics and nuclear war."
- CR-R02
Median researcher: 5% chance of "extremely bad outcomes (e.g. human extinction)". 38–51% give at least 10%. About 68% think good outcomes more likely than bad.
- CR-R03
More than half of researchers say misinformation, authoritarian control and worsening inequality warrant substantial or extreme concern.
- CR-R04
On loss of control: "Current systems lack the capabilities to pose such risks, but they are improving in relevant areas." Models increasingly distinguish test from deployment.
- CR-R05
12 companies published or updated frontier AI safety frameworks in 2025.
- CR-R06
Experimental evidence of "alignment faking" in Claude 3 Opus under artificial conditions (12% prompted; 78% alignment-faking reasoning after RL). Authors: does not show malicious goals.
- CR-R07
Eventually an IAEA-like international authority may be needed for systems above a capability threshold.
- CR-R08
"AI seems likely to enable much better propaganda and surveillance."
- CR-R09
Content Credentials are "not a cure-all for misinformation". They show provenance, not truth.
- CR-R10
Neuralink: 21 trial participants; "zero serious device-related adverse events" so far.