كيف سيغير الذكاء الاصطناعي المولّد عمليات الأمان؟

Clarke Rodgers:
إن توسيع نطاق عملية أمنية عالمية ناجحة ليس بالأمر الهين. يتطلب الأمر مستوى من الالتزام وثقافة الملكية التي تعطي الأولوية لثقة العملاء، مع التكيف لتلبية احتياجات الأعمال.

مرحبًا، أنا Clarke Rodgers، مدير استراتيجية المؤسسة في AWS ودليلك لسلسلة من المحادثات مع قادة الأمن في AWS هنا على Executive Insights.

في هذه الحلقة، انضم إليّ Tom Avant، مدير الاستجابة والمرونة في AWS. استمع بينما نتحدث عن مفاتيح بناء عمليات الأمان وصيانتها وتطويرها لضمان مرونة الأعمال. شكرا لانضمامك إلينا.

Clarke Rodgers:
Tom، شكرا جزيلا لانضمامك لي اليوم.

Tom Avant:
شكرا جزيلا لاستضافتي. إنه لشرف عظيم لي. إننا نقدِّر ذلك.

Clarke Rodgers:
أود أن أبدأ بقليل من المعلومات عن خلفيتك. أعلم أنك قضيت بعض الوقت في الجيش ثم ما الذي جذبك إلى AWS؟

Tom Avant:
عندما التحقت بالجيش، دخلت في البداية إلى علم اللغة، لذلك كنت محللة استخبارات وعملت وحصلت للتو على هذا التعرض الكبير لجميع الثقافات المختلفة عندما كنت في معهد لغات الدفاع في مونتيري. تعلمت الكثير عن العالم، الأمر الذي سيخدمني بشكل أفضل لاحقًا في إدارة المنظمات العالمية والفرق العالمية.

ومن ثم فإن صناعة الاستخبارات هي مجرد... هناك الكثير مما تراه على أجهزة التلفزيون والأفلام وتعتقد أن هذا هو الحال ثم تدخل وتدرك أنه ليس من هذا القبيل. ولكنه كان مكانًا رائعًا بالنسبة لي لأتمكن من الذهاب إليه وتعلم الكثير عن البيانات وعن المعالجة والحصول على المنهجية، وأن يكون تفكيري منهجيًا وتغيير الطريقة التي أنظر بها إلى الأشياء. لذلك، قررت الانضمام، عملت في وكالة الأمن القومي لبضع سنوات للقيام بأشياء مختلفة من منظور استخباراتي.

وفي نهاية أصبحت ضابطًا كمدير للمعارك الجوية، وضابط قيادة وتحكم يدير عمليات الاستخبارات، أقوم الآن بدعم الرئيس، وأقوم بمهام إنسانية في جميع أنحاء العالم، وأتخذ قرارات حاسمة وأقوم بأشياء كلها باسم الاستجابة للحوادث على المستوى العالمي الكبير.

► المزيد للمشاهدة: اكتشف فوائد توظيف المحاربين القدامى لأدوار أمنية

Clarke Rodgers:
بالتأكيد.

Tom Avant:
لذلك كانت AWS خيارًا مناسبًا وطبيعيًا لي. لقد كنت في الأمن طوال حياتي. كنت أمزح، لقد حصلت على تصريح أمني منذ أن كان عمري 19 عامًا. لكن الانضمام إلى مؤسسة لديها قيم، كانت Amazon جذابة بسبب مبادئ القيادة هذه. وعندما تفهم ما يحدث في AWS، عندما تتعمق حقًا، تقول: «يا إلهي، كثير من الأشياء الموجودة في العالم تعمل بفضل الأشياء التي نقوم بها.» يجب أن أساهم في جزء من ذلك.

Clarke Rodgers:
لنتحدث قليلاً عن دورك الحالي في AWS. ما هو هذا الدور الحالي وما هي مسؤولياتك؟

Tom Avant:
الشيء الأساسي هو أنني أدير مركز عمليات أمان AWS، ومن ثم فأنا مسؤول أيضًا عن استمرارية أعمال AWS. لذلك، هناك شيئان مختلفان للغاية، ولكنهما مهمان للغاية للأعمال التجارية في كلا الحقوق. لذا، فإن مركز عمليات أمان AWS مسؤول عن الاستجابة المادية والمنطقية للحوادث من المستوى الأول في جميع أنحاء الشركة. لذلك، أي شيء من مركز البيانات إلى حاويات S3، نحن الخطوط الأمامية للتأكد من أننا نراقب الاكتشافات ثم نقوم إما بفرز تلك الاكتشافات أو توجيهها إلى أشخاص آخرين يمكنهم إصلاحها إذا لم نتمكن من القيام بذلك بأنفسنا.

لذلك، لكل شخص يتساءل عن شارته، نقوم بتشغيل نظام التشغيل هذا ونقوم بجميع عمليات الدمج المختلفة مع ذلك من أجل التأكد من دخول الأشخاص وخروجهم من المساحات التي يحتاجون إليها كل يوم. ومن ثم أيضًا، لا تدخل المساحات التي لا نريدك أن تدخل إليها.

Clarke Rodgers:
بالتأكيد.

Tom Avant:
أليس كذلك؟ لذا، فإن التحكم في الوصول مهم جدًا. جزء استمرارية الأعمال هو مرونة جميع عملياتنا وخدماتنا. نحن نشهد ونقول، «مرحبًا، لدينا أنظمة زائدة عن الحاجة ونثق بهذه الأنظمة.» ونقول للعملاء، «مرحبًا، نحن نعلم أن هذا سيكون جيدًا.» ونريد أن نتأكد من أننا عندما نخبرهم بذلك، فإنهم يعرفون أننا لا نقول ذلك فقط لأنه يبدو رائعًا. نحن نقول ذلك لأننا اختبرناه ولدينا أشخاص في الخلفية يعملون بلا كلل لإعادة الاختبار واستخدام جميع الأشياء المختلفة لدينا، كل شيء بدءًا من مراجعات المخاطر التشغيلية إلى الرؤساء التنفيذيين إلى متطلبات ISO المختلفة من أجل التأكد من أن خدماتنا مرنة حقًا.

Clarke Rodgers:
لذا، أفترض أن أشياء مثل عملية red teaming وأشياء من هذا القبيل تقع تحت سيطرتك؟

Tom Avant:
هذا في الواقع لا يحدث. هذا في جزء مختلف من العمل. لكن ما نقوم به يشبه إلى حد كبير اختبارات TTX أو التمارين التي سنقوم فيها بتمرين واسع النطاق وجلب أشخاص من جميع أنحاء العمل المختلفة. وهي في الأساس محاكاة للقول، «حسنًا، ماذا يحدث إذا مررنا بيوم سيء؟ كيف نرد؟ كيف نتفاعل؟ كيف نتأكد من حدوث الأشياء الصحيحة؟» لا تسير الأمور بشكل مثالي أبدًا، فنحن نتعلم الكثير من الأشياء. ندمج ذلك، ونضعه في سجلات التشغيل، ونشاركه مع الفرق، ونذهب ونفعل ذلك مرة أخرى.

Clarke Rodgers:
يعد تشغيل SOC استثمارًا ضخمًا من منظور الأعمال. كيف تبرر النفقات، أو هل أنت مضطر إلى ذلك، بناءً على نوع العمل الذي نقوم به؟ لأنه عندما يكون العملاء... لدي محادثات مع العملاء، يقولون، «حسنًا، أود أن يكون لدي SOC، لكنه مكلف للغاية، الموظفين والأدوات وكل هذه الأشياء.» كيف يمكنني إثبات جدوى قيادتي بأننا بحاجة إلى SOC أو ربما حتى مجرد خدمة SOC إذا قرروا الاشتراك في واحدة؟

Tom Avant:
هذا سؤال معقد. هناك بعض الإجابات على ذلك. الجزء الأول هو أننا رائعون، وهذه هي الطريقة التي تبرر بها ذلك. ولكن لا، يتم ذلك من خلال مؤشرات الأداء الرئيسية (KPIs) والبيانات. ولدينا QBRs إلى جانب قيادتنا. لذلك، نبحث باستمرار عن طرق آلية للتقييم «هل نقدم القيمة ونعيدها إلى الشركة وإلى العميل؟»

Clarke Rodgers:
هل يمكنك مشاركة أي من المقاييس التي تستخدمها؟

Tom Avant:
لذلك، هناك الكثير من الأشياء التي نبحث عنها في جميع مسارات الأعمال المختلفة للتأكد من أننا نعيد هذه القيمة إلى الأعمال التجارية. بالنسبة لنظام التحكم في الوصول، نتأكد من أننا نتحدث عن وقت تشغيل النظام وما هو وقت تعطل النظام، أليس كذلك؟ ونتأكد أيضًا من أنه بالنسبة للتكوينات المختلفة التي قمنا بتطبيقها، والتي نقوم بتنسيقها، ما هو الربح الصافي من تلك التغييرات التي قمنا بتطبيقها؟

بالنسبة للاكتشافات، ننظر إلى الوقت الحالي للكشف، وفي الوقت نفسه لحلها. نحن ننظر إلى الأنواع المختلفة من الاكتشافات التي نأتي إليها وننظر إلى القيمة التي يتم إرجاعها إلى النشاط التجاري في تلك المساحات. حتى بالنسبة لاستمرارية الأعمال، فإننا نبحث في مقاييس مختلفة حول الخدمات المختلفة التي لدينا، وتوسيع النطاق، وتلك المعتمدة من ISO، وتلك التي تمكنا من التأكد من أنها خضعت للاختبار.

الآن، لكن الجزء الآخر من هذا السؤال هو في نفس الوقت، وربما هذا فقط لأنني نشأت كشخص مقتصد، وأؤمن حقًا بذلك المستأجر الأول، «التوسع عبر البشر كملاذ أخير.» تأتي إلي وتقول: «مرحبًا، هل لدي فكرة رائعة لك! أعتقد أن هذا سيكون عملاً رائعًا لمركز SOC.»

لماذا يقول الناس ذلك؟ نظرًا لأننا نعمل على مدار الساعة، ويتطلع الكثير من الأشخاص إلى تفريغ شيء ما إلى SOC، ويريدون القدوم وقول ذلك. وأقول، «اسمع، فلنتحدث عن الفائدة الصافية لهذا للأعمال.» لأنه إذا كنت تطلب منا المساعدة لأن هذه فائدة صافية للأعمال التجارية، فبكل سرور. إذا كنت تطلب منا القيام بذلك لأن هذا عمل لا تريد القيام به وتعتقد أن البشر الآخرين يجب أن يقوموا به، فسأقول، «ربما ينبغي لنا العودة إلى OP1 وإيجاد طريقة للأتمتة للخروج من هذا الموقف.»

Clarke Rodgers:
بالتأكيد.

Tom Avant:
ما زلت أخبر فريقي دائمًا أن مهمتنا هي إخراج أنفسنا من العمل عن طريق الأتمتة. مهمتنا هي البحث باستمرار عن طرق لاستخدام الأتمتة أو للتأكد من أننا نقود الاكتشافات إلى حالة تقول فيها يومًا ما، «حسنًا، لماذا ليس لدينا SOC؟» سأخبرك: «ذات مرة كان لدينا SOC.» وقد قامت SOC بمراجعة كل هذه الطرق المختلفة لتتمكن من القول، «لسنا بحاجة إلى القيام بذلك»، أو «يمكن أتمتة ذلك»، أو «قد يكون هذا أفضل»، أو «يمكننا دفع العمل من البداية إلى حالة لم تعد هناك حاجة فيها إلى SOC.» هذا هدفي. لا أعرف ما إذا كنا سنصل إلى هناك في أي وقت، لكنه بالتأكيد هدف يجب الاستمرار في القيادة نحوه.

Clarke Rodgers:
حسنا، في الواقع كان لدي سؤال لك حول ذلك. إذا اطلعت على الغيب، كيف تبدو SOC في المستقبل؟ وأعتقد أن هناك طريقة مختلفة لطرح هذا السؤال وهي، إذا كانت لديك صفحة بيضاء، فكيف يمكنك بناء قدرة SOC اليوم؟

Tom Avant:
أود أن أقول إنني أتطلع إلى القدرة، لأن هذا هو ما يعود إليه الأمر حقًا. أو ما هي القدرة التي تكتسبها من SOC؟ ما هي القدرة التي تفقدها بسبب عدم وجود SOC أو عن طريق الاستعانة بمصادر خارجية لـ SOC؟ الفرق بين جزء الاستعانة بمصادر خارجية في ذلك هو أنك حصلت على مصلحة الشركة أولاً، وهذا هو السبب في أنك تريد SOC داخليًا - إذا كنت تستطيع تحمل تكلفة ذلك.

Clarke Rodgers:
وداخليًا، أعتقد سيكون لديك أيضًا معرفة بالأعمال التجارية التي لن يمتلكها طرف خارجي.

Tom Avant:
قطعًا. ستعرف إلى من تذهب. الجزء الآخر من العمل في المنزل هو قدرتك، أليس كذلك؟ العودة إلى القدرة. تأكد من أنك تركز على ما تقدمه خصيصًا للنشاط التجاري. وأعتقد أنه يمكنك تعديل ذلك باستمرار لأنك في تلك الاجتماعات الأخرى، مثل اجتماعات التخطيط الاستراتيجي. لذلك، أثناء تدفقهم، يمكنك فهم ذلك، «حسنًا، هذا هو دليلينا الجديد. هذا هو المكان الذي قمنا فيه بتغيير المسار.» لا يمكنك القيام بذلك إذا تم الاستعانة بمصادر خارجية بنفس الوتيرة.

ونظرًا لأن الأعمال التجارية تتحرك بوتيرة سريعة جدًا، فأنت تريد التأكد من أن هؤلاء الأشخاص الذين يتخذون هذه الإجراءات النهائية مرتبطون بالأشخاص الذين يتخذون تلك القرارات الاستراتيجية، وبالتالي فهم قادرون على التمحور بسرعة كبيرة. وهذه إحدى فوائد امتلاك هذه الميزة محليًا. سوف أنظر إلى كل هذه الأشياء وأقول أن القدرة هي دليلينا بشكل استراتيجي التي أشرت إليها، ما نوع وضعية الحماية التي أبحث عنها؟ ما هي المخاطر إذا فاتني ذلك؟

عندما أفكر في ذلك، سأقول... إذا حدث ذلك، هل يمكنني أن أنظر في عين عملائي وأقول، «لقد فعلت كل ما في وسعي للتأكد من عدم حدوث ذلك»، أم سأهاجم وسألقي اللوم على زميلي؟

Clarke Rodgers:
أنا أحب ذلك. مع السرعة التي تتقدم بها التكنولوجيا، وبالطبع مع أدوات الذكاء الاصطناعي المولّد الموجودة هناك، ما الذي تراه في SOC المستقبلي؟ لا أعرف ما إذا كان بإمكانك التحدث عما إذا كنت تستخدم أي أدوات ذكاء اصطناعي مولِّد اليوم، أو تخطط للقيام بذلك أو التحقيق في أي حالة، ولكن كيف ترى أن ذلك يساعد محللي SOC والأدوار الأخرى أيضًا؟ ثم من جانب المخترقون، كيف تفكر في كيفية استخدام الذكاء الاصطناعي المولِّد حتى تتمكن من اكتشاف أنشطته أو الرد عليها؟

Tom Avant:
لقد بدأنا في استخدامه بطريقة إنشاء ردود تلقائية لبعض عملائنا. ثم ننظر أيضًا إلى عمليات سير العمل الآلية حتى نتمكن من القول، «حسنًا، نحن نعلم أن هذه هي عمليات سير العمل الشائعة - هذه أشياء تستند إلى مقاييسنا التي ننظر إليها، والتي يبحث عنها العملاء كثيرًا - كيف ندمج ما تخبرنا به بياناتنا من خلال توجيه مباشر أكثر إلى الحلول التي يبحثون عنها وحيث لا تتطلب حكمًا بشريًا، لماذا لا نزيل الإنسان تمامًا من تلك السلسلة؟» وهذا ما نعمل عليه الآن.

Clarke Rodgers:
هذا رائع. ثم من جانب الخصم؟

Tom Avant:
جانب التهديد مثير للاهتمام حقًا. إنها ساحة لعب جديدة. لذلك، تسمع الكثير من الأشياء الجديدة المختلفة حول الحقن في... يرغب الأشخاص في اللعب بالتكنولوجيا، وقد بدؤوا في التوجه إلى جميع مواقع الويب ويقومون بالتنزيل فقط. إنهم لا يعرفون حتى ما يقومون بتنزيله في معظم الوقت. أنت لا تريد أشخاصًا متهورين وبلا رؤية. تريد تقييم الموقف أولاً والبحث عن أفضل نقطة دخول.

لذلك، نفس الشيء عندما نتحدث عن الجيل الخامس من الذكاء الاصطناعي. ما هي الأماكن الآمنة؟ كيف نتأكد من التحقق من هذا الاستخدام قبل أن ندمجه؟ ما هي الفحوصات المختلفة التي يمكننا إجراؤها في الخلفية والتأكد من أننا نقول، «نعم، نشعر بالرضا حقًا عما نقوم به»، قبل أن ننشر هذا. لأنه بمجرد دخوله والبدء في الانتشار، ليس هذا هو الوقت المناسب للتفاجأ، وإدراك أنك فعلت شيئًا خاطئًا لأنك الآن تقوم بالتنظيف وتحاول اللحاق بركب الانتشار. وهذا ليس ممتعًا، لأولئك الذين فعلوا ذلك من قبل. لذلك، تريد بالتأكيد النظر إليها من منظور إجراء تلك الفحوصات المسبقة قبل أن تبدأ حتى.

► اقرأ تقرير البحث: تأمين الذكاء الاصطناعي المولّد (Generative AI): ما يهم الآن

وأعتقد أن التهديد الآخر المرتبط بذلك الذي بدأنا نراه، والذي ربما يكون غير شائع، هو التنظيم. ربما تكون واحدة من أكبر الاتجاهات التي بدأت أراها عندما نبدأ في اعتماد المزيد من أعباء العمل على السحابة، حيث يأتي المزيد من العملاء إلى السحابة. نذهب إلى المزيد من البيئات والبلدان المختلفة. لقد بدأنا في رؤية السحابة السيادية تظهر في المزيد من المواقع. التنظيم هو شيء يجب عليك التفكير فيه. في السابق، لم تحظ بالأولوية، وهي الآن في طليعة الكثير من مناقشاتنا. قبل أن ندخل ونفكر في أي شيء آخر، كيف يمكننا الامتثال والاستمرار في العمل والحفاظ على أقصى قيمة للعميل مع الامتثال والقدرة على تقديم ذلك؟

Clarke Rodgers:
أعتقد أن هذا أيضًا من الاتجاهات المثيرة الاهتمام التي مرت عليّ. كان من المعتاد أن نجري محادثة حول مبدأ security by design، أليس كذلك؟ بناء الأمان، ربما حتى في مراحل النماذج الأولية، ومراحل التفكير. والآن وصلنا إلى مرحلة «أوه، نعم، والخصوصية والامتثال والالتزامات التنظيمية أيضًا.»

Tom Avant:
قطعًا.

Clarke Rodgers:
أنا سعيد لأنك ترى ذلك، أن الناس أصبحوا يركزون على المكدس بحيث عندما يتعلق الأمر بوقت الإصدار، فأنت في الواقع تتماشى مع التيار.

Tom Avant:
قطعًا.

Clarke Rodgers:
حسنا، لقد كان هذا رائعا، Tom. أنا حقا أقدر وقتك اليوم. شكرًا لك!

Tom Avant:
شكرا جزيلا لاستضافتي. أنا أيضًا أقدر ذلك.