استطلاع الرأى
مارأيك في تصميم موقع درع الوطن الجديد ؟
- ممتاز
- جيد جداً
- جيد
عدد
التصويت 1647
- قائد العمليات المشتركة يلتقي رئيس مركز التخطيط وإدارة العمليات في فرنسا
- وفد من وزارة الدفاع يزور بيت العائلة الإبراهيمية
- معرض الخدمة الوطنية للتوظيف يختتم دورته السابعة
- برعايــة رئيس الدولــة.. العين تحتضن حصن الاتحاد 10
- ايدج تُوقّع اتفاقية مع بي تي بينداد لتزويدها بخط إنتاج من الذخيرة
- قائد العمليات المشتركة يلتقى رئيس اركان الدفاع الايطالي وقائد العمليات الفضائية في ختام زيارته لايطاليا
- نائب قائد القوات الجوية والدفاع الجوي يلتقي نائب قائد القوات الجوية البلغارية
- وزير الدولة لشؤون الدفاع يستقبل سفير جمهورية باكستان الإسلامية لدى الدولة
- شركة آر تي أكس تُجدد رعايتها لمسابقة بحوث وابتكارات طلبة الجامعات من تنظيم جامعة أبوظبي لعامي 2024 و2025
- قائد العمليات المشتركة يلتقي عدد من القادة الإيطاليين في بداية زيارة رسمية لجمهورية إيطاليا
- وزير الدولة لشؤون الدفاع يبعث رسالة تهنئة إلى معالي أندريه بيلوسوف بمناسبة تعيينه وزيراً للدفاع
- وزير الدولة لشؤون الدفاع يبعث رسالة تهنئة إلى معالي الشيخ فهد يوسف سعود الصباح بمناسبة إعادة تعيينه
- منتخب وزارة الدفاع للجوجيتسو يحصد المراكز الأولى ضمن جولات بطولة أبوظبي جراند سلام للجوجيتسو 2024
- منتخب وزارة الدفاع للقفز الحر يحصد ذهبية وبرونزية بطولة كرواتيا الدولية للقفز بالمظلات
- وزير الدولة لشؤون الدفاع يزور جمهورية صربيا
- اختتام فعاليات التمرين العسكري المشترك علم الصحراء 9
- وفد من قيادة الحرس الوطني وقيادة الطيران المشترك يزورون معهد الابتكار التكنولوجي TII
- رئيس هيئة تطوير القوات يشهد فعاليات افتتاح النسخة الـ 18 من معرض آسيا لخدمات الدفاع DSA 2024
- النسخة الأضخم في تاريخ المعرض الدولي للأمن الوطني ودرء المخاطر (إيسنار أبوظبي 2024) تنطلق 21 مايو الجاري في مركز أدنيك أبوظبي
- نائب قائد القوات الجوية و الدفاع الجوي يطلع على آخر الاستعدادات لليوم الختامي لتمرين علم الصحراء 9
2024-05-01
هل يمكن الوثوق بتطبيقات الذكاء الاصطناعي التوليدي؟
نظرة تحليلية حول القدرات والإمكانيات والمخاطر
في البداية، ساد الاعتقاد بأن الذكاء الاصطناعي (AI) مجرد خيال علمي، ولكن مع مرور الوقت، أدرك الكثيرون حجم قدراته وإمكانيته وخاصة في ظل ظهور نماذج تعلم الآلة (LLMs) مثل ChatGPT وGoogle PaLM وMeta’s LLaMA. فهل يشكل الذكاء الاصطناعي مستقبل إنشاء المحتوى أم أنه مجرد كابوس ينجم عن «التزييف العميق»؟
ويتميز «الذكاء الاصطناعي التوليدي» بقدرته على تحليل البيانات. ولكن ليس ذلك فحسب، بل يستطيع أن يوجدها ويمكنه محاكاة الأنماط والهياكل وكذلك الأصوات عبر التعلم من مجموعات البيانات الضخمة، ويستطيع أن يؤلف النصوص والأنغام الموسيقية ويتمكن من تصميم الصور ومقاطع فيديو الواقعية.
كما أحدث هذا الجيل من “الذكاء الاصطناعي” ثورة في إنشاء «المحتوى»، تتفاوت بين صياغة وكتابة المقالات والتزييف العميق، فيما أصبح من الضروري التعرف على آلية عمل تلك البرامج الذكية واستخداماتها، وذلك في إطار التوجه نحو استشراف مستقبل صناعة المحتوى ورصد المخاطر التي تلوح في الأفق.
من جانب آخر، تعتمد آلية عمل برامج وأنظمة “الذكاء الاصطناعي التوليدي» على ما يدعى بـ “النصوص الفورية” (prompt)، التي تسهم في إنشاء محتوى جديد استجابةً للنص الفوري، فيما يمكن أن يتضمن المحتوى مقالات أو حلولاً للمشكلات أو تزييفاً واقعياً يتم إنشاؤه من صور أو صوت لشخص ما.
ومن اللافت للنظر، أن تلك التكنولوجيات ليست جديدة على الإطلاق؛ إذ ظهر «الذكاء الاصطناعي التوليدي» لأول مرة في ستينيات القرن الماضي عبر برامج الدردشة الآلية، ولكن لم يتمكن الذكاء الاصطناعي التوليدي من إنشاء صور ومقاطع فيديو وصوت أصلية بشكل مقْنع لأشخاص حقيقيين حتى عام 2014، مع ظهور شبكات توليدية تنافسية تدعى (GANs)، وهي نوع من خوارزمية التعلم الآلي.
ويجمع الذكاء الاصطناعي التوليدي بين الخوارزميات ونماذج اللغات الحاسوبية الكبيرة وتقنيات الشبكات العصبونية لإنشاء محتوى يعتمد على الأنماط التي يلاحظها في محتوى آخر.
وعلى الرغم من أن مخرجات نظام الذكاء الاصطناعي التوليدي يمكن اعتبارها “أصلية” على الصعيد السطحي، لكنها في الأساس تعتبر “مُقلدة”، فيما تسهم في تعزيز التعلم الآلي عبر المحتوى المتاح الذي ليعكس مستوى الإبداع البشري. لذا، تخيل أن لديك القدرة على فهم واستخدام محتوى الإنترنت بالكامل لإنتاج نصوص وصور ومقاطع فيديو، الأمر الذي سيسهم في جعلها مألوفة إلى حد كبير. وهذا يثير أسئلة بالغة الأهمية للمختصين في المجال الأمني.
إنّ فهم قدرات وإمكانيات وحدود الذكاء الاصطناعي على حد سواء، لم يعد ترفاً، بل ضرورة. فالبقاء في الصدارة أمر بالغ الأهمية في الإبحار عبر المشهد الأمني المتطور.
الدفاع الاستباقي
تواجه الفرق الأمنية ضغوطًا متزايدة، غير أن الذكاء الاصطناعي يقدم لها الحل. فمع تفاقم تعقيد التهديدات السيبرانية، لم يعد الاعتماد على الأساليب التقليدية كافياً. وقد سلّط تقرير “سونيك وول” (SonicWall) لعام 2024 الضوء على هذه الضرورة الملحة.
وتكمن الإجابة في مزودي الخدمات المُدارة (MSPs) الذين يستفيدون من الذكاء الاصطناعي لمكافحة هذه التهديدات المتطورة، إذ توفر هذه الخدمات المدارة طبقة إضافية من الخبرات البشرية، تسهم في تخفيف التعب من الإنذارات، وفي توفير موارد تكنولوجيا المعلومات.
كما صرح الرئيس التنفيذي لشركة «سونيك وول» (SonicWall)، بوب فانكيرك، “إن مشهد التهديدات السيبرانية يتطلب حلولاً استباقية، وتعد الخدمات المدارة (MSPs) التي تعمل بالذكاء الاصطناعي بمثابة الحل الأمثل لذلك.»
ويشار إلى أن أعداد الهجمات السيبرانية ارتفعت بنسبة 20 في المائة لتصل إلى أكثر من مليار محاولة هجوم خلال عام واحد. وارتفع حجم عمليات «التعدين الرقمي الخبيث» بنسبة 659 في المئة، كما ارتفع حجم التهديدات المشفرة بنسبة 117 في المئة، مما يدل على التحول نحو الأنشطة الخبيثة الأكثر سرية.
ارتفاع تكاليف الجرائم الإلكترونية
من جهة أخرى، توجد العديد من التوقعات بأن يستمر هذا الاتجاه في النمو، إذ يتوقع المركز الوطني للأمن السيبراني في المملكة المتحدة أن يسهم الذكاء الاصطناعي في زيادة الهجمات السيبرانية خلال العامين المقبلين. ومن المتوقع أن تصل تكاليف الجرائم الإلكترونية العالمية إلى 23.84 تريليون دولار أمريكي بحلول عام 2027، مقارنة بـ 11.50 تريليون دولار أمريكي في عام 2022.
ومع تزايد حجم الهجمات، تطغى التنبيهات والتحديات على المحللين. وتضيف تقنيات الذكاء الاصطناعي، كالتزييف العميق مثلًا، التعقيد، وهو ما يتجلى في مقطع فيديو ينتحل شخصية الرئيس الأوكراني فولوديمير زيلينسكي وهو يحث على الاستسلام. وفي عام 2020، تم استخدام الذكاء الاصطناعي لاستنساخ صوت مدير إحدى الشركات، ونتج عن ذلك سرقة 35 مليون دولار أمريكي من أحد البنوك.
ومع استمرار تزايد التهديدات التي يحركها الذكاء الاصطناعي، بما في ذلك زيادة محاولات الاحتيال العميق التي ارتفعت بنسبة 3 آلاف في المائة خلال عام 2023، يواجه المتخصصون في مجال الأمن السيبراني تحدي في البقاء بالمقدمة.
تنامي الوعي
وفي استطلاع شمل 205 مسؤول من صناع القرار في مجال أمن تكنولوجيا المعلومات، أقر 59% منهم بدور الذكاء الاصطناعي في تصعيد الهجمات الإلكترونية، بينما أعرب 61% عن مخاوفهم بشأن تنامي دور الذكاء الاصطناعي في تهديدات الأمن السيبراني. وتعكس هذه المشاعر تصاعد “الذكاء الاصطناعي الهجومي” الذي لوحظ في عام 2023 من خلال تكتيكات مثل التصيد الاحتيالي العميق والبرامج الضارة. وعلى الرغم من تزايد الوعي بتأثير الذكاء الاصطناعي، فهناك فهم محدود لتعقيداته في مشهد الأمن السيبراني.
تكتيكات هجومية
وتتيح تكتيكات الذكاء الاصطناعي الهجومية أساليب هجوم جديدة مثل التصيد الاحتيالي العميق الموجّه وانتحال صفة الوجوه والأصوات. كما يمكن للبرامج الضارة التي تعتمد على الذكاء الاصطناعي أن تصيب الشبكات بشكل مستقل، مما يقلل فرص اكتشافها. ويساعد الذكاء الاصطناعي أيضاً على اكتشاف مواطن الضعف في البرمجيات، وأتمتة الهندسة العكسية، وإنشاء هويات مزيفة واقعية للأنشطة الضارة.
سيف ذو حدين
وبإمكان الخصوم التلاعب بنماذج الذكاء الاصطناعي لتحقيق أهداف خبيثة، مثل الدخول من أبواب خلفية أو تجاوز أنظمة الكشف الأمنية، وهذا مدعاة للقلق بصورة خاصة؛ لأن المؤسسات تعتمد على الذكاء الاصطناعي لإدارة أنظمتها.
وفي الوقت الذي يمكن فيه شن بعض الهجمات الضارّة بدون استخدام أنظمة الذكاء الاصطناعي، فإنه من الممكن أن يتم تشغيلها تلقائياً، مما يجعلها أسرع وأكثر قابلية للتطوير. ويساهم الذكاء الاصطناعي في السماح بشنّ هجمات جديدة مثل استنساخ الصوت لأغراض الهندسة الاجتماعية.
ومما يثير القلق أن دراسة حول الأمن السيبراني توصلت إلى أن أقل من نصف صناع القرار المختصين في مجال تكنولوجيا المعلومات يدركون حجم المخاطر الأمنية لأنظمة الذكاء الاصطناعي، الأمر الذي يشير إلى أن الافتقار إلى الوعي يعيق الدفاع الاستباقي ويحد من تثقيف المستخدمين.
ولحسن الحظ، يدرك متخصصو الأمن حجم إمكانات الذكاء الاصطناعي، إذ يرون أنه يسهم في أتمتة المهام، ويحسن الاستجابة للحوادث، ويعمل على تحديد التهديدات في الوقت الفعلي.
ويتعين على فرق الأمن السيبراني الاستفادة من الذكاء الاصطناعي في مواكبة المهاجمين، إذ أنه من المتوقع أن تتزايد التعقيدات في الهجمات الإلكترونية مع ارتفاع نسب الوصول إلى تطبيقات الذكاء الاصطناعي.
وعلى صعيد آخر، يمكن للمختصين في المجال الأمني التصدي لتلك الهجمات السيبرانية من خلال استخدام تطبيقات الذكاء الاصطناعي للدفاع والأنظمة الهجومية معاً. فعلى صعيد الدفاع، يمكن للذكاء الاصطناعي تسريع الاستجابة للحوادث وتحسين دقتها. أما من الناحية الهجومية، فيمكن للذكاء الاصطناعي تعزيز اختبار إمكانية الاختراق لتحديد نقاط الضعف في الشبكة ونقطة النهاية.
وعلى الرغم من عدم وضوح التأثير الكامل للذكاء الاصطناعي في الجرائم الإلكترونية، فإن المتخصصين في مجال الأمن، ولاسيما كبار القادة، بحاجة إلى تعزيز فهمهم وتحسين استراتيجيات الاستجابة لديهم.
وقود الذكاء الاصطناعي
وينبغي لأية مؤسسة أن تعزز أنظمتها الذكية للتصدي للمخاطر الأمنية، ولكن عليها أن تعلم في الوقت ذاته، أن البيانات غير المحمية تغدو عرضة للخطر عندما يتفاعل الذكاء الاصطناعي معها، فيما يتمثل «الاستعداد الحقيقي للذكاء الاصطناعي» في الحصول على أحدث التقنيات ومواءمة ثقافة المنظمة واستراتيجيتها ومواردها لتحقيق أقصى قدر من الفائدة من تطبيقات الذكاء الاصطناعي.
ويعد تقييم المشهد الحالي للذكاء الاصطناعي أمر بالغ الأهمية، ولا يقتصر ذلك على فهم الوضع الحالي، بل يتعداه أيضاً إلى تحديد مجالات التحسين لتسخير إمكانات الذكاء الاصطناعي بشكل كامل. ومن المؤشرات الرئيسية على نضج أنظمة الذكاء الاصطناعي: القدرة على معرفة البيانات بين صفوف الموظفين، ودمجه في العمليات التجارية الحالية، ومبادرات التدريب والتعليم المستمرة في مجال الذكاء الاصطناعي.
ويمكن أن تكون بطاقة أداء الجاهزية للذكاء الاصطناعي بمثابة أداة قيّمة لتقييم الأوجه المختلفة لقدراته بشكل منهجي، إذ يتم تسجيل عناصر مثل جاهزية البنية التحتية للبيانات، وتوافر المواهب، والميل الثقافي للتغيير لتوفير رؤية شاملة لاستعداد المؤسسة لاعتماد الذكاء الاصطناعي.
وتعتبر البيانات بمثابة الوقود لتطبيقات الذكاء الاصطناعي، ويساعد الأساس الجيد الإعداد لإدارة البيانات أمراً أساسياً. ويتضمن ذلك وضع سياسات صارمة لإدارة البيانات، وضمان جودة البيانات، وتعزيز إطار سليم لتخزين البيانات ومعالجتها، وكثيراً ما تواجه المؤسسات مشكلة البيانات المنعزلة وعدم التوحيد القياسي للبيانات، الأمر الذي يمكن أن يعيق فعالية أنظمة الذكاء الاصطناعي.
التآزر الاستراتيجي
ويتطلب تكامل الذكاء الاصطناعي حوكمة قوية لتكنولوجيا المعلومات لتتواءم مع السياسات التنظيمية، مما يضمن الاستدامة وقابلية التطوير. ويكمن التحدي في تكييف الذكاء الاصطناعي مع أطر تكنولوجيا المعلومات التقليدية والمتطورة. ويتعين على المؤسسات الموازنة بين احتياجات البنية التحتية لتطبيقات الذكاء الاصطناعي وقيود الميزانية ومعايير التكنولوجيا المتطورة لإنشاء أنظمة مستقبلية.
ويعد العنصر البشري ذو أهمية بالغة، وتساعد القوى العاملة المؤهلة في تعزيز الوصول إلى أفضل إمكانات الذكاء الاصطناعي. وتحتاج المؤسسات إلى تحديد المهارات المطلوبة، والاستثمار في التدريب، ورعاية المواهب الماهرة في علوم البيانات، والتعلم الآلي، وأخلاقيات الذكاء الاصطناعي. وينطوي ذلك على صياغة برامج تدريب قابلة للتطوير لمواكبة تطورات الذكاء الاصطناعي. كما يجب أن تقدم المؤسسات قيمة جذابة وأجوراً تنافسية وأدواراً تتميز بأعمال الذكاء الاصطناعي المؤثرة لجذب أفضل المتخصصين في الذكاء الاصطناعي والاحتفاظ بهم.
الامتثال القانوني
ويمثل الانتقال من مشاريع الذكاء الاصطناعي التجريبية إلى الإنتاج خطوة محورية للمؤسسات لتحقيق الجاهزية لاستخدام تطبيقات الذكاء الاصطناعي. ويتطلب التوسع خارطة طريق واضحة وموارد لإدارة التغيير وبنية تحتية قوية، غير أن مؤسسات عديدة تواجهها عوائق فنية وتنظيمية وثقافية تعيق التبني الكامل للذكاء الاصطناعي.
وتعتبر المواءمة والتنفيذ الاستراتيجيين عمليتان مستمرتان تتطلبان استمرار الاهتمام والتحسين، وحينما تنضج المؤسسات في مسيرتها مع الذكاء الاصطناعي، يصبح من الضروري أن تتوافر المرونة والالتزام بالتحسين.
ويعد التعامل مع أخلاقيات الذكاء الاصطناعي والاعتبارات القانونية أمراً بالغ الأهمية؛ لذا ينبغي أن تلتزم المؤسسات بتوفير بيئة أخلاقية للذكاء الاصطناعي، والامتثال للوائح المتغيرة لبناء الثقة وتجنب التداعيات القانونية. فممارسات الذكاء الاصطناعي الأخلاقية تركز على الخصوصية والعدالة والمساءلة والشفافية، مما يتطلب عمليات تفعيل معقدة داخل أنظمة الذكاء الاصطناعي.
ويعتبر الامتثال القانوني إلزامياً. ومع اتساع نطاق تأثير الذكاء الاصطناعي، تتطلب الأطر التنظيمية - مثل القانون العام لحماية البيانات (GDPR) وقانون حماية المعلومات الشخصية والوثائق الإلكترونية (PIPEDA)- اتخاذ تدابير استباقية وتفاعلية، كما يسهم الالتزام المستمر بالحوكمة الأخلاقية والامتثال في مواءمة استخدام الذكاء الاصطناعي مع القيم المجتمعية.
من بين التحديات الشائعة التي تواجه جاهزية استخدام تطبيقات الذكاء الاصطناعي: الافتقار إلى الرؤية الاستراتيجية، وتجزئة البيانات، ونقص المواهب، ومنافسة أصحاب المصلحة، لذا يعد إن التصدي على نحو استباقي لهذه المخاطر يضمن انتقالاً أكثر سلاسة إلى مستقبل مدعوم بتطبيقات الذكاء الاصطناعي.
وتكتسب إدارة المخاطر أهمية بالغة لاعتماد تطبيقات وأنظمة الذكاء الاصطناعي. وينبغي أن تعالج المؤسسات خصوصية البيانات والأخلاقيات وفقدان الوظائف وتطوير استراتيجيات تخفيف شاملة لتحقيق التوازن بين فوائد الذكاء الاصطناعي والجوانب السلبية المحتملة.
ويتطلب على المؤسسات أن تتبنى بشكل استباقي الفرص التي يعتمدها الذكاء الاصطناعي، مما يعزز الأمن السيبراني والكفاءة التشغيلية لتحقيق النجاح المستدام.
النص المرجعي: برايان مارتن، مدير إدارة المنتجات في “انتيجريتي (360”)
تعليقات الزوار
تصفح مجلة درع الوطن
.
فيديو
مواقيت الصلاه
- ابو ظبي
- دبي
- الشارقه
- عجمان
- ام القيوين
- راس الخيمة
- الفجيره
لا يوجد تعليقات