أعلن يعقوب كوكسون، الباحث في مجال الذكاء الاصطناعي الذي عمل في أنثروبيك، مطورة كلود، وعمل سابقًا أيضًا في أوبن إيه آي، اليوم الأربعاء أنه سيغادر أنثروبيك وصناعة الذكاء الاصطناعي، مطلقًا تحذيرًا شديدًا من الاتجاه الذي يسير فيه هذا المجال.
وكتب كوكسون، الذي عمل في أبحاث تدريب النماذج، أنه أمضى السنوات الثلاث الأخيرة في أوبن إيه آي وأنثروبيك، مدعيًا أن أيا من الشركتين لا تتصرف بمسؤولية كافية في ضوء المخاطر.
وكتب كوكسون في إعلانه: "إنهما تندفعان مباشرة نحو ذكاء يفوق البشر ويحسن نفسه بنفسه، وتغامران بحياتنا".
وفي مقابلة نشرتها صحيفة وول ستريت جورنال، أوضح كوكسون أن مصدر قلقه الرئيسي هو احتمال ظهور أنظمة ذكاء اصطناعي قادرة على تحسين قدراتها بنفسها والتقدم بسرعة إلى ما يتجاوز قدرة البشر على السيطرة عليها. وقال إن المنافسة بين كبرى شركات الذكاء الاصطناعي تجعل من الصعب على أي منها إبطاء وتيرة التطوير، حتى عندما يكون العاملون فيها على دراية بالمخاطر.
وأشار كوكسون إلى وجود اختلافات بين الشركتين اللتين عمل فيهما. وقال إن كثيرين في أوبن إيه آي لم يستوعبوا بعد بشكل كامل حجم المخاطر التي ينسبها إلى التكنولوجيا، بينما تحظى المخاطر بفهم أكبر في أنثروبيك، إلا أن الشركة تواصل المنافسة بهدف الوصول أولًا إلى القدرات المتقدمة.
وبحسب كوكسون، فإن المنطق الذي يوجه أنثروبيك هو أنه إذا توقفت الشركة، فقد تطور شركة أخرى التكنولوجيا بطريقة أقل مسؤولية. ويرى أن النتيجة هي سباق تواصل فيه حتى الشركات التي تعلن التزامها بالسلامة تطوير أنظمة أكثر قوة.
وتعلقت أشد تحذيراته بالسنوات المقبلة. وكتب: "الأشخاص الذين يبنون الذكاء الاصطناعي يعتقدون حقًا أنه قد يقتلنا جميعًا حتى نهاية العقد". وأضاف أن الأمر ليس خطوة تسويقية، وأنه سمع في محادثات خاصة مسؤولين وباحثين كبارًا يعبرون عن مخاوف أشد مما يعلنونه على الملأ.
وحذر كوكسون أيضًا من القدرات التي قد تمتلكها الأنظمة المستقبلية. وقال إنه لا ينبغي التقليل من قوة التكنولوجيا، مقدرًا أن الأنظمة التي تفوق القدرات البشرية قد تتمكن من تنفيذ هجمات سيبرانية متقدمة، وتسريع تحقيق اختراقات في مجالات مختلفة، واكتساب القوة والموارد في العالم الحقيقي.
ورغم انتقاداته، لا يدعي كوكسون أن أنثروبيك تتجاهل قضية السلامة بالكامل. وبحسب وول ستريت جورنال، فإنه يقر بأن الشركة تستثمر جهودًا جدية في هذا المجال، لكنه لا يعتقد أن شركة واحدة يمكنها تطوير ذكاء عام متقدم بصورة مسؤولة بينما تعمل في خضم سباق تنافسي.
وقال إن هناك حاجة إلى قواعد حكومية وتفاهمات أوسع بين الشركات تتيح إبطاء وتيرة السباق. وتأتي استقالته ضمن سلسلة من حالات مغادرة باحثين في الذكاء الاصطناعي لشركات رائدة خلال السنوات الأخيرة، معربين عن مخاوفهم من الفجوة بين وتيرة تحسن النماذج وآليات الرقابة والسلامة.