أطلقت مؤخرا أداة كشف النصوص التي تم توليدها بالذكاء الاصطناعي وهي سينث أي دي تكست SynthID-Text، من شركة ديب مايند التي تملكها غوغل، وذلك بهدف تقديم نظام علامة مائية للنص، وتعد أول أداة يتم اختبارها على 20 مليون استفسار تحقق.
وأعلنت غوغل أنها دمجت بالفعل نظام العلامات المائية الجديد SynthID-Text في روبوت الدردشة Gemini الخاص بها. كما قامت أيضًا بفتح مصدر الأداة وجعلتها متاحة للمطورين والشركات، مما يسمح لهم باستخدام الأداة لتحديد ما إذا كانت مخرجات النص قد جاءت من نماذج اللغة الكبيرة الخاصة بهم (LLMs)، وأنظمة الذكاء الاصطناعي التي تعمل على تشغيل روبوتات الدردشة.
يأتي ذلك بعد أن كانت معطيات التحقق من المحتوى موضوعًا ساخنًا خاصة بالنسبة للصور والفيديو لمكافحة ظاهرة التزييف العميق. ويمثل كشف مصدر النص معضلة أصعب بكثير، حيث يمكن تغيير النص بسهولة لإخفاء أو إزالة العلامة المائية من خلال إزالة التنسيق.
ويراد لهذه الأداة مواجهة طوفان المحتوى الذي تم توليده بالذكاء الاصطناعي من صور وفيديو ونصوص أصبحت تتسلل إلى كل شيء من موجز الأخبار والأوراق البحثية وحتى رسائل البريد الإلكتروني، مما يستدعي تطوير إجراءات وخطوات مضادة لها لكشف مصدر هذا المحتوى .
وتقدم بعض الشركات خدمات لتحديد النصوص التي تم إنشاؤها بواسطة الذكاء الاصطناعي من خلال تحليل المواد، بينما تقول شركات أخرى إن أدواتها ستجعل النص الذي تم إنشاؤه بواسطة الذكاء الاصطناعي يبدو “بشريًا” وتجعل استخدام الذكاء الاصطناعي لتوليده غير قابل للاكتشاف.
وتتوفر حاليا بعض الأدوات التي توفر خدمة كشف مصادر المحتوى المشتبه بتوليده بالذكاء الاصطناعي مثل كل من:
- TraceGPT وهي أداة للدقة والتحليل في النصوص.
- Winston AI لكشف مصدر الصور والنصوص.
- Hive أداة مجانية لكشف مصدر النصوص والصور.
- GPTZero قدرات لتحليل النص المكتوب ومصادره.
- Originality.ai أداة للكشف العام عن المحتوى.
- Smodin أداة برسوم مخفضة لكشف مصدر المحتوى.
- تابعونا:
