يبحث مشرعون أمريكيون من الحزبين تشريعاً جديداً يلزم الشركات المطورة لأقوى نماذج الذكاء الاصطناعي باتخاذ إجراءات للحد من المخاطر الكبرى الناجمة عن استخدام أنظمتها، بما في ذلك إمكانية استغلالها في تطوير أسلحة نووية أو بيولوجية.
وبحسب وكالة «رويترز»، نقلاً عن مساعدين في مجلس الشيوخ ومصادر مطلعة على المفاوضات، يناقش المشرعون إنشاء ما يعرف قانونياً بـ«واجب العناية» لمطوري الذكاء الاصطناعي، بما يلزم الشركات بتصميم منتجاتها بهدف منع «المخاطر الكارثية» المعروفة.
منع إطلاق النماذج الخطرة
ويبحث المفاوضون منح الحكومة الأمريكية صلاحية منع إطلاق بعض نماذج الذكاء الاصطناعي التي تُعد غير آمنة، على أن يكون للشركات المطورة الحق في الطعن على القرار أمام المحاكم الفيدرالية، فيما لا تزال حدود الصلاحيات التي ستمنح للحكومة قيد النقاش.
وتشمل المخاطر التي يستهدفها التشريع احتمال استخدام جهات سيئة النية لأنظمة الذكاء الاصطناعي للمساعدة في تصميم أسلحة نووية أو بيولوجية، إلى جانب مخاطر شن هجمات إلكترونية متطورة.
كما يدفع مشرعون باتجاه إخضاع أقوى نماذج الذكاء الاصطناعي لاختبارات يجريها علماء وخبراء في المختبرات الوطنية الأمريكية، لتقييم قدرتها على تسهيل مثل هذه الأنشطة قبل إتاحتها على نطاق واسع.
«قوقل» و«أنثروبيك» و«OpenAI»
ولا يزال التشريع في مرحلة التفاوض، ومن المتوقع أن يطبق على النماذج ذات القدرات الأكثر تقدماً، التي تطورها شركات من بينها Google وAnthropic وOpenAI.
وتجري المناقشات بمشاركة زعيم الأغلبية في مجلس الشيوخ جون ثون، ورئيس لجنة التجارة تيد كروز، والسيناتورة الديمقراطية إيمي كلوبوشار، فيما شاركت السيناتورة ماريا كانتويل، أكبر الديمقراطيين في لجنة التجارة، في النقاش بشأن التشريع.
مخاوف من الاستخدامات البيولوجية
ويأتي التحرك في وقت تتصاعد فيه المخاوف من إساءة استخدام قدرات الذكاء الاصطناعي في المجالات الحساسة. وفي تقرير منفصل نشرته «رويترز»، كشفت «أنثروبيك» أنها رصدت خمس حالات استخدم فيها باحثون نماذج «Claude» بطرق يمكن أن تدعم تطوير أسلحة بيولوجية.
ومن بين الحالات باحث استخدم «Claude» على مدى أسابيع للمساعدة في التخطيط لتجارب تتعلق بتكيف أنفلونزا الطيور مع الثدييات. وأكدت الشركة أنها حظرت الحسابات المرتبطة بهذه الأنشطة وعززت إجراءات الحماية، دون الكشف عن أسماء المؤسسات أو الدول أو التفاصيل الفنية للأبحاث.
ولا يزال مشروع التشريع الأمريكي قيد التفاوض، ولم تُحسم صيغته النهائية، فيما قد يشكل الجدول الزمني الضيق للكونغرس قبل انتخابات التجديد النصفي في نوفمبر تحدياً أمام تمريره سريعاً.
American lawmakers from both parties are seeking new legislation that would require companies developing the most advanced artificial intelligence models to take measures to mitigate the major risks arising from the use of their systems, including the potential for them to be exploited in the development of nuclear or biological weapons.
According to Reuters, citing aides in the Senate and sources familiar with the negotiations, lawmakers are discussing the establishment of what is legally known as a "duty of care" for AI developers, which would require companies to design their products with the aim of preventing known "catastrophic risks."
Preventing the Release of Dangerous Models
Negotiators are considering granting the U.S. government the authority to prevent the release of certain AI models deemed unsafe, with the right for developing companies to appeal the decision in federal courts, while the limits of the powers to be granted to the government are still under discussion.
The risks targeted by the legislation include the possibility of malicious actors using AI systems to assist in the design of nuclear or biological weapons, alongside the risks of launching sophisticated cyberattacks.
Lawmakers are also pushing for the strongest AI models to undergo testing conducted by scientists and experts at U.S. national laboratories to assess their ability to facilitate such activities before being made widely available.
Google, Anthropic, and OpenAI
The legislation is still in the negotiation phase and is expected to apply to models with the most advanced capabilities, developed by companies including Google, Anthropic, and OpenAI.
Discussions are taking place with the participation of Senate Majority Leader John Thune, Commerce Committee Chairman Ted Cruz, and Democratic Senator Amy Klobuchar, while Senator Maria Cantwell, the highest-ranking Democrat on the Commerce Committee, has participated in discussions regarding the legislation.
Concerns Over Biological Uses
This move comes at a time when concerns are rising over the misuse of AI capabilities in sensitive areas. In a separate report published by Reuters, Anthropic revealed that it had identified five instances where researchers used "Claude" models in ways that could support the development of biological weapons.
Among the cases was a researcher who used "Claude" for weeks to help plan experiments related to the adaptation of avian influenza to mammals. The company confirmed that it had banned accounts associated with these activities and strengthened protective measures, without disclosing the names of the institutions or countries or the technical details of the research.
The U.S. legislative proposal is still under negotiation, and its final form has not been settled, while the tight timeline for Congress before the midterm elections in November poses a challenge for its swift passage.
إخلاء مسؤولية إن موقع بالبلدي يعمل بطريقة آلية دون تدخل بشري،ولذلك فإن جميع المقالات والاخبار والتعليقات المنشوره في الموقع مسؤولية أصحابها وإداره الموقع لا تتحمل أي مسؤولية أدبية او قانونية عن محتوى الموقع.
"جميع الحقوق محفوظة لأصحابها"
المصدر :" جريدة عكاظ "
