تعد مدارس K-12 وليست جامعات، وليست أقسام تدريب للشركات. الطلاب قاصرون. البيانات بالغة الحساسية. النظام القانوني صارم. المسؤولية الأخلاقية عميقة. يجب أن يستوفي نظام إدارة التعلم بالذكاء الاصطناعي المستخدم في سياق K-12 معياراً أعلى من ذلك المستخدم في أي سياق آخر — ويتم تحديد هذا المعيار بموجب القانون، وسياسة المنطقة التعليمية، وتوقعات أولياء الأمور، وواجب الرعاية الأساسي للمدرسة. السلامة، والخصوصية، والذكاء الاصطناعي في نظام إدارة التعلم للمدارس هو منضبطة تصميم ونشر وإدارة منصة تعلم مدعومة بالذكاء الاصطناعي بطريقة تحمي كل طفل، وتتثال لكل قانون مطبق، وتكسب ثقة كل ولي أمر.

يغطي هذا الدليل المشهد القانوني (COPPA، وFERPA، والقوانين المحلية، وGDPR-K)، ومبدأ تقليل البيانات، وعملية موافقة أولياء الأمور، ومخاطر سلامة الأطفال الخاصة بالذكاء الاصطناعي، نهج الإشراف على المحتوى، وبنية أمن البيانات، والعناية الواجبة للموردين، والاستجابة للحوادث، وتدريب الموظفين، والتواصل مع أولياء الأمور، ونموذج الحوكمة. لإطار عمل خصوصية بيانات نظام إدارة التعلم الأوسع، راجع خصوصية بيانات نظام إدارة التعلم وأمنه في عصر الذكاء الاصطناعي. لإطار حوكمة الذكاء الاصطناعي، راجع حوكمة الذكاء الاصطناعي لنظام إدارة التعلم: السياسات، والأخلاقيات، والرقابة. لسياق تبني K-12، راجع نظام إدارة التعلم بالذكاء الاصطناعي للمدارس: كيف تبدأ مدارس K-12.

ما هي خصوصية نظام إدارة التعلم المدرسي؟

المشهد القانوني

يخضع نظام إدارة التعلم في مرحلة K-12 لشبكة معقدة من القوانين الفيدرالية، والولائية، والدولية. المشهد القانوني هو الحد الأدنى وليس الحد الأقصى — يجب أن تسعى المدرسة إلى ما هو أعلى مما يطلبه القانون، لكن القانون يمثل نقطة البداية.

قانون حماية خصوصية الأطفال على الإنترنت (COPPA - الولايات المتحدة)

ينطبق قانون COPPA على مشغلي الخدمات عبر الإنترنت الذين يجمعون معلومات شخصية من الأطفال دون سن 13 عاماً. يتطلب القانون: موافقة الوالدين القابلة للتحقق قبل الجمع، وإشعارات خصوصية واضحة، وإمكانية وصول الوالدين إلى معلومات الطفل، وقدرة الوالدين على حذف المعلومات، وقيوداً على الاحتفاظ بالمعلومات. يجب أن يمتثل أي نظام إدارة تعلم بالذكاء الاصطناعي يجمع أي معلومات شخصية من الطلاب دون سن 13 عاماً لقانون COPPA، ويجب تصميم الامتثال في المنصة منذ البداية.

قانون الحقوق التعليمية للأسرة والخصوصية (FERPA - الولايات المتحدة)

ينطبق قانون FERPA على الوكالات والمؤسسات التعليمية التي تتلقى تمويلاً اتحادياً. يحمي القانون خصوصية سجلات تعليم الطلاب. يمنح القانون أولياء الأمور الحق في فحص ومراجعة السجلات، والحق في طلب التصحيح، والحق في الموافقة على الكشف. يجب أن يمتثل نظام إدارة التعلم بالذكاء الاصطناعي الذي يعالج سجلات تعليم الطلاب لقانون FERPA، ويجب أن تمتلك المدرسة اتفاقية مكتوبة مع المورد تعين المورد كـ "مسؤول مدرسي" له مصلحة تعليمية مشروعة.

قوانين خصوصية الطلاب الولائية (الولايات المتحدة)

تحتوي العديد من ولايات الولايات المتحدة على قوانين خاصة بها لخصوصية الطلاب، وغالباً ما تكون أكثر صرامة من قانون FERPA. يعد قانون SOPIPA في كاليفورنيا، وقانون SOPPA في إلينوي، وقانون التعليم 2-d في نيويورك، وقانون خصوصية بيانات الطلاب في كولورادو أمثلة على ذلك. يجب أن تمتثل المدرسة لقوانين كل ولاية تعمل فيها، وليس فقط القانون الفيدرالي. يجب أن يدعم المورد امتثال المدرسة لجميع القوانين الولائية المطبقة.

اللائحة العامة لحماية البيانات وGDPR-K (الاتحاد الأوروبي والمملكة المتحدة)

تنطبق اللائحة العامة لحماية البيانات (GDPR) على جميع المنظمات التي تعالج البيانات الشخصية للمقيمين في الاتحاد الأوروبي. توفر اللائحة GDPR-K (المادة 8 تحديدا) حماية إضافية للأطفال. الأساس القانوني لمعالجة بيانات الأطفال أكثر تقييداً، ومتطلبات الموافقة أعلى، وحقوق موضوع البيانات أوسع. يجب أن يمتثل نظام إدارة التعلم بالذكاء الاصطناعي الذي تستخدمه مدارس الاتحاد الأوروبي أو المملكة المتحدة للائحة GDPR-K، ويجب توثيق هذا الامتثال.

قانون حماية البيانات الشخصية والقوانين المكافئة (آسيا والمحيط الهادئ)

يحتوي قانون PDPA في سنغافورة، وقانون DPDPA في الهند، وقانون الخصوصية في أستراليا، والقوانين المماثلة في سلطات أخرى في آسيا والمحيط الهادئ على متطلبات خاصة بها. يجب أن تمتثل المدرسة لقوانين كل ولاية قضائية تعمل فيها. يجب أن يدعم المورد الامتثال متعدد الولايات القضائية.

طبقة سياسة المنطقة التعليمية

بالإضافة إلى القانون، تمتلك المنطقة التعليمية عادةً سياساتها الخاصة بشأن خصوصية بيانات الطلاب، واستخدام الذكاء الاصطناعي، وعلاقات الموردين. قد تكون السياسات أكثر صرامة من القانون. يجب أن تمتثل المدرسة لسياسات المنطقة التعليمية، وليس فقط للقانون.

تحدد الطبقات الست للمشهد القانوني — COPPA، وFERPA، والقوانين الولائية، وGDPR-K، وPDPA، وسياسة المنطقة التعليمية — الحد الأدنى للامتثال. المدرسة التي تلبي الحد الأدنى تكون ممتثلة؛ والمدرسة التي تتجاوز الحد الأدنى تعتبر نموذجية.

مبدأ تقليل البيانات

مبدأ تقليل البيانات هو مبدأ التصميم الأساسي لبيانات نظام إدارة التعلم لـ K-12. ينص المبدأ على ما يلي: اجمع فقط البيانات التي تحتاجها، واحتفظ بها فقط للمدة التي تحتاجها، واستخدمها فقط للغرض الذي جمعتها من أجله.

لماذا يهم تقليل البيانات

أهمية مبدأ تقليل البيانات للأطفال أكبر بكثير منها للبالغين. لا يمكن للأطفال تقديم موافقة ذات مغزى على جمع البيانات. قد لا يفهم الأطفال الآثار طويلة المدى لتخزين بياناتهم. بيانات الأطفال، في حالة اختراقها، يمكن أن تؤثر عليهم لعقود. يحمي هذا المبدأ الطفل، والأسرة، والمدرسة من المخاطر طويلة المدى المترتبة على الجمع المفرط للبيانات.

جرد البيانات

يجب على المدرسة الاحتفاظ بسجل لجرد البيانات يوثق: البيانات التي يتم جمعها، ومن من، ولأي غرض، ومدة الاحتفاظ بها، ومن يملك حق الوصول، وكيف يتم تأمينها. يعد الجرد الأساس لمراجعة تقليل البيانات.

مراجعة تقليل البيانات

تطرح مراجعة تقليل البيانات السؤال التالي: هل كل عنصر بيانات ضروري للغرض التعليمي؟ إذا كان بإمكان المنصة تقديم القيمة التعليمية دون جمع البيانات، فيجب عدم جمع البيانات. يجب إجراء المراجعة في مرحلة الشراء وإعادة زيارتها سنوياً.

سياسة الاحتفاظ بالبيانات

تحدد سياسة الاحتفاظ بالمدة التي يتم فيها الاحتفاظ بكل عنصر بيانات. يجب أن تكون السياسة متوافقة مع الحاجة التعليمية (على سبيل المثال، يتم الاحتفاظ بالدرجات للسجل الأكاديمي؛ ويتم الاحتفاظ بالبيانات السلوكية للعام الحالي فقط؛ ويتم الاحتفاظ بسجلات تفاعل الذكاء الاصطناعي لفترة التدقيق فقط). يجب تطبيق السياسة تلقائياً وليس يدويّاً.

عملية الحذف

تحدد عملية الحذف كيف يتم حذف البيانات عندما لم تعد هناك حاجة إليها، أو عندما يطلب الولي الحذف، أو عندما تنتهي العقد مع المورد. يجب أن يكون الحذف قابلاً للتحقق منه (يمكن للمدرسة تأكيد زوال البيانات) وكاملاً (لا يتبقى أي نسخ احتياطي). يجب أن يدعم المورد عملية الحذف تقنياً وتعاقدياً.

العناصر الخمسة لتقليل البيانات — الجرد، والمراجعة، وسياسة الاحتفاظ، وعملية الحذف، والمبدأ الأساسي — هي أساس إطار حماية البيانات.

عملية موافقة أولياء الأمور

عملية موافقة أولياء الأمور هي الأساس القانوني والأخلاقي لجمع البيانات من القاصرين. تختلف العملية حسب الولاية القضائية وحسب نوع البيانات.

موافقة الوالدين القابلة للتحقق (COPPA)

يتطلب قانون COPPA موافقة الوالدين القابلة للتحقق قبل جمع المعلومات الشخصية من الأطفال دون سن 13 عاماً. يمكن الحصول على الموافقة القابلة للتحقق من خلال: نموذج موافقة موقع، أو التحقق من بطاقة ائتمان أو هوية حكومية، أو مؤتمر فيديو مع الولي، أو مصادقة تعتمد على المعرفة. يجب على المدرسة استخدام طريقة مناسبة للسياق وتحمي هوية الولي.

الموافقة الضمنية (المصرح بها من المدرسه)

بالنسبة للبيانات التي يتم جمعها في سياق المدرسة بموجب إذن المدرسة، يمكن الحصول على الموافقة من خلال عملية الموافقة العامة للمدرسة (على سبيل المثال، الإصدار السنوي للإعلام، سياسة الاستخدام المقبول للتكنولوجيا). يجب على المدرسة إخطار أولياء الأمور بشأن جمع البيانات ومنحهم فرصة الانسحاب. الانسحاب لا يساوي عدم الاشتراك، ولا يسمح قانون COPPA دائماً بالانسحاب للاستخدام التجاري.

الموافقة التفصيلية

تسمح الموافقة التفصيلية لأولياء الأمور بالموافقة على بعض الاستخدامات والانسحاب من أخرى. على سبيل المثال، قد يوافق الولي على استخدام نظام إدارة التعلم ولكن ينسحب من ميزات الذكاء الاصطناعي، أو يوافق على ميزات الذكاء الاصطناعي ولكن ينسحب من عمليات التكامل مع الأطراف الثالثة. تحترم الموافقة التفصيلية استقلالية الولي وحاجة المدرسة.

تجديد الموافقة

تطلب تجديد الموافقة من أولياء الأمور تجديد موافقتهم على فترات محددة (سنوياً، عندما تتغير المنصة بشكل جوهرى، عندما ينتقل الطفل إلى صف جديد). يضمن التجديد أن تكون الموافقة حالية وأن لدى الولي فرصة لإعادة التفكير.

توثيق الموافقة

يسجل توثيق الموافقة ما وافق عليه الولي ومتى وكيف. التوثيق هو دفاع المدرسة في حالة تقديم شكوى أو إجراء تدقيق. يجب الاحتفاظ بالتوثيق طوال مدة الاحتفاظ بالبيانات على الأقل.

العناصر الخمسة لعملية الموافقة — الموافقة القابلة للتحقق، والموافقة الضمنية، والموافقة التفصيلية، والتجديد، والتوثيق — هي الأساس التشغيلي. المدرسة التي تتعامل مع الموافقة بشكل جيد تتجنب معظم المخاطر القانونية.

مخاطر سلامة الأطفال الخاصة بالذكاء الاصطناعي

تُدخل ميزات الذكاء الاصطناعي مخاطر جديدة لسلامة الأطفال لا تقدمها ميزات نظام إدارة التعلم التقليدية. يجب تحديد هذه المخاطر وتقييمها والتخفيف من حدتها قبل النشر.

خطر المحتوى غير اللائق

يمكن للمدرس الذكي الاصطناعي، ومولد المحتوى بالذكاء الاصطناعي، وميزات التغذية الراجعة للذكاء الاصطناعي إنتاج محتوى غير لائق للأطفال. قد يكون المحتوى: عنيفاً، أو جنسياً، أو مليئاً بالكراهية، أو منحازاً، أو يشجع على سلوك ضار، أو غير مناسب للعمر ببساطة. الخطر ليس نظرياً؛ فقد ثبت أن نماذج اللغات الكبيرة (LLMs) تنتج مثل هذا المحتوى، والخطر أكبر بالنسبة للطلبات التي تأتي من الأطفال الذين قد لا يفهمون الحدود.

خطر محتوى إيذاء النفس

قد ينتج الذكاء الاصطناعي محتوى ضاراً للأطفال الذين يعانون من مشاكل الصحة العقلية، أو صورة الجسد، أو الأفكار الانتحارية، أو نقاط ضعف أخرى. الخطر حاد بشكل خاص بالنسبة للمدرس الذكي الاصطناعي، والذي قد يستخدمه الطفل كصديق مقرب. يجب أن يمتلك الذكاء الاصطناعي ضمانات تكتشف وتستجيب بشكل مناسب لمحتوى إيذاء النفس، بما في ذلك التصعيد إلى بشري (على سبيل المثال، مرشد مدرسي).

خطر التلاعب

قد يتم التلاعب بالذكاء الاصطناعي من قبل الطفل لإنتاج محتوى يجب ألا ينتجه الذكاء الاصطناعي. يمكن أن يأخذ التلاعب شكل مطالبات كسر الحماية (jailbreak)، أو مطالبات لعب الأدوار، أو الهندسة التدريجية للمطالبات. يجب أن يكون الذكاء الاصطناعي مقاوماً للتلاعب، ويجب تحديث الضمانات مع اكتشاف تقنيات تلاعب جديدة.

خطر التحيز

قد ينتج الذكاء الاصطناعي محتوى متحيزاً يقوم بنمطة أو استبعاد أو إهانة الأطفال بناءً على العرق، أو الجنس، أو الوضع الاجتماعي والاقتصادي، أو الإعاقة، أو خصائص أخرى. التحيز ضار بشكل خاص في سياق K-12 لأن الأطفال يشكلون مفهومهم الذاتي. يجب اختبار الذكاء الاصطناعي بحثاً عن التحيز ويجب التخفيف من هذا التحيز.

خطر التبعية

قد يخلق الذكاء الاصطناعي تبعية لدى الطفل، الذي يفضل المعلم الذكي الاصطناعي على المعلم البشري أو الوالد. تكون التبعية ضارة عندما تقلل من تفاعل الطفل مع البشر، أو عندما تحل محل تطوير المهارات الاجتماعية، أو عندما تتداخل مع استقلالية الطفل. يجب تصميم الذكاء الاصطناعي ليكمل العلاقات البشرية وليس ليحل محلها.

خطر تسريب البيانات

قد يقوم الذكاء الاصطناعي بتسريب بيانات الطفل في ردوده. يمكن أن يكون التسريب مباشراً (يذكر الذكاء الاصطناعي اسم الطفل أو مدرسته أو معلوماته الشخصية بطريقة مرئية للآخرين) أو غير مباشر (تکشف ردود الذكاء الاصطناعي عن أنماط يمكن ربطها بالطفل). يجب تصميم الذكاء الاصطناعي لحماية بيانات الطفل في ردوده.

المخاطر الستة الخاصة بالذكاء الاصطناعي — المحتوى غير اللائق، وإيذاء النفس، والتلاعب، والتحيز، والتبع، وتسريب البيانات — هي المخاطر التي لا تحتوي عليها ميزات نظام إدارة التعلم التقليدية. يجب أن يعالج نظام إدارة التعلم بالذكاء الاصطناعي كل خطر صراحةً، وليس من خلال الأمل في أن يتصرف الذكاء الاصطناعي بشكل جيد.

نهج الإشراف على المحتوى

نهج الإشراف على المحتوى هو الطبقة التشغيلية لإدارة مخرجات الذكاء الاصطناعي. يتكون النهج من 3 طبقات: ما قبل التوليد، والوقت الفعلي، وما بعد الحدث.

ضمانات ما قبل التوليد

تمنع ضمانات ما قبل التوليد الذكاء الاصطناعي من توليد أنواع معينة من المحتوى في المقام الأول. تشمل الضمانات: تصفية المطالبات (حظر المطالبات التي تطلب محتوى ضاراً)، وتصفية الاستجابة (حظر الاستجابات التي تحتوي على محتوى ضار)، والضبط الدقيق للنموذج (تدريب الذكاء الاصطناعي على رفض أنواع معينة من الطلبات). الضمانات ليست مثالية، لكنها تقلل المخاطر بشكل كبير.

ضمانات الوقت الفعلي

تراقب ضمانات الوقت الفعلي استجابات الذكاء الاصطناعي أثناء توليدها وتتدخل عند الضرورة. وتشمل الضمانات: مصنفات المحتوى (اكتشاف المحتوى الضار)، وقواعد التصعيد (توجيه محادثات معينة إلى بشري)، ومفاتيح الإيقاف (إيقاف الذكاء الاصطناعي عند اكتشاف مشكلة خطيرة). ضمانات الوقت الفعلي هي شبكة الأمان لضمانات ما قبل التوليد.

ضمانات ما بعد الحدث

تراجع ضمانات ما بعد الحدث تفاعلات الذكاء الاصطناعي بعد وقوعها وتحدد الأنماط أو المشكلات التي فاتتها ضمانات الوقت الفعلي. وتشمل الضمانات: سجلات التدقيق (تسجيل جميع تفاعلات الذكاء الاصطناعي للمراجعة)، وآليات الإبلاغ (السماح للمعلمين أو أولياء الأمور بالإبلاغ عن التفاعلات المقلقة)، والتدقيقات الدورية (مراجعة عينات من التفاعلات للجودة والسلادة). ضمانات ما بعد الحدث هي طبقة التعلم.

البشري في الحلقة

البشري في الحلقة هو أهم ضمان. يجب ألا يعمل الذكاء الاصطناعي بدون إشراف بشري. يمكن أن يكون الإشراف: مراجعة المعلم للمحتوى المولّد بالذكاء الاصطناعي قبل مشاركته مع الطلاب، أو مراجعة مرشد المدرسة للمحادثات المبلغ عنها، أو مراجعة المسؤول للتقارير الدورية. البشري في الحلقة هو الضمان النهائي.

الشفافية للأطفال

الشفافية للأطفال هي الطبقة التعليمية. يجب أن يعرف الأطفال أن الذكاء الاصطناعي أداة وليس بشراً. يجب تعليم الأطفال كيف يعمل الذكاء الاصطناعي، وما هي قيوده، ومتى يتم التصعيد إلى بشري. تبني الشفافية مرونة الأطفال في مواجهة مخاطر الذكاء الاصطناعي.

عناصر نهج الإشراف على المحتوى الخمسة — ما قبل التوليد، والوقت الفعلي، وما بعد الحدث، والبشري في الحلقة، والشفافية — هي الأساس التشغيلي. المدرسة التي تستثمر في جميع العناصر الخمسة هي مدرسة تحمي أطفالها.

بنية أمن البيانات

بنية أمن البيانات هي الأساس التقني. يجب أن تحمي البنية البيانات في كل مرحلة: أثناء النقل، وفي حال السكون، وأثناء المعالجة، وفي النسخ الاحتياطي.

التشفير أثناء النقل

يستخدم التشفير أثناء النقل بروتوكول TLS 1.3 أو أعلى لجميع البيانات المنقولة بين جهاز الطالب، وشبكة المدرسة، وخوادم المورد. يجب فرض التشفير لجميع الاتصالات، وليس فقط صفحة تسجيل الدخول.

التشفير في حال السكون

يستخدم التشفير في حال السكون معيار AES-256 أو ما يعادله لجميع البيانات المخزنة على خوادم المورد، ووسائط النسخ الاحتياطي، وأي جهاز يحتفظ بالبيانات. يجب إدارة مفاتيح التشفير بشكل منفصل عن البيانات، ويفضل أن يكون ذلك من خلال خدمة إدارة المفاتيح.

ضوابط الوصول

تضمن ضوابط الوصول أن المستخدمين المصرح لهم فقط (الطلاب، المعلمون، المسؤولون) يمكنهم الوصول إلى البيانات، وفقط للأغراض المصرح لهم بها. يجب أن تعتمد الضوابط على الأدوار (معلم، طالب، مسؤول، ولي أمر) وأن تدعم مبدأ الامتياز الأقل.

أمن الشبكة

يحمي أمن الشبكة البيانات أثناء انتقالها عبر الشبكة. يشمل أمن الشبكة: جدران الحماية، واكتشاف التسلل، وحماية DDoS، وفصل بيانات الطلاب عن الأنظمة الأخرى. أمن الشبكة هو طبقة المحيط.

تسجيل التدقيق

يسجل تسجيل التدقيق كل عملية وصول إلى بيانات الطلاب، وكل تغيير في البيانات، وكل إجراء إداري. سجل التدقيق هو سجل المدرسة لتحقيقات الامتثال، واستفسارات أولياء الأمور، والاستجابة للحوادث. يجب أن يكون السجل مقاوماً للعبث والاحتفاظ به للمترة التي يطلبها القانون.

عناصر بنية أمن البيانات الخمسة — التشفير أثناء النقل، التشفير في حال السكون، ضوابط الوصول، أمن الشبكة، وتسجيل التدقيق — هي الأساس التقني. المدرسة التي لا تستثمر في البنية هي مدرسة تعرض طلابها لمخاطر غير ضرورية.

العناية الواجبة للموردين

العناية الواجبة للموردين هي طبقة الشراء. يجب ألا تنشر المدرسة نظام إدارة تعلم بالذكاء الاصطناعي لم يتم فحصها بدقة.

مراجعة الخصوصية

تدرس مراجعة الخصوصية ممارسات الخصوصية الخاصة بالمورد: سياسة الخصوصية، واتفاقية معالجة البيانات، وسياسة الاحتفاظ بالبيانات، وقائمة المعالِجين الفرعيين، وتاريخ الحوادث. يجب إجراء المراجعة بواسطة المستشار القانوني للمدرسة، وليس فقط مكتب الشراء.

مراجعة الأمان

تدرس مراجعة الأمان ممارسات الأمان للمورد: شهادات الأمان (SOC 2 Type II، وISO 27001)، ونتائج اختبار الاختراق، وسياسة الإفصاح عن الثغرات الأمنية، وخطة الاستجابة للحوادث. يجب إجراء المراجعة بواسطة طاقم تكنولوجيا المعلومات بالمدرسة، وليس فقط مكتب الشراء.

مراجعة سلامة الذكاء الاصطناعي

تدرس مراجعة سلامة الذكاء الاصطناعي ممارسات الذكاء الاصطناعي للمورد: بيانات تدريب الذكاء الاصطناعي، واختبار التحيز، والإشراف على المحتوى، وآليات الإشراف البشري، والاستجابة لحوادث الذكاء الاصطناعي. يجب إجراء المراجعة بواسطة شخص لديه خبرة في الذكاء الاصطناعي، وليس فقط مكتب الشراء.

فحص المراجع

تتواصل فحوصات المراجع مع المدارس الأخرى التي تستخدم المورد. يجب سؤال المراجع عن: تجربة التنفيذ، وتجربة الخصوصية والأمان، وتجربة سلامة الذكاء الاصطناعي، واستجابة الدعم، وأية مشكلات نشأت. يجب أن تكون المراجع من مدارس ذات حجم وسياق مماثلين.

الحماية التعاقدية

تحدد الحماية التعاقدية التزامات المورد: ملكية البيانات (المدرسة تملك البيانات)، وموقع البيانات (يتم تخزين البيانات في الولايات القضائية الموافَق عليها)، وحذف البيانات (يتم حذف البيانات عند إنهاء العقد)، وإشعار الخرق (يُخطِر المورد المدرسة في إطار زمني محدد)، وحقوق التدقيق (يمكن للمدرسة التدقيق في امتثال المورد). العقد هو آلية الإنفاذ للمدرسة.

عناصر العناية الواجبة للموردين الخمسة — مراجعة الخصوصية، ومراجعة الأمان، ومراجعة سلامة الذكاء الاصطناعي، وفحص المراجع، والحماية التعاقدية — هي أساس الشراء. المدرسة التي تستثمر في العناية الواجبة هي مدرسة تتجنب مفاجآت ما بعد النشر.

الاستجابة للحوادث

الاستجابة للحوادث هي الطبقة التشغيلية لما يحدث عندما تسوء الأمور. يجب أن تكون الاستجابة سريعة ومنسقة وموثقة.

فئات الحوادث

تشمل فئات الحوادث: خرق البيانات (الوصول إلى بيانات الطلاب من قبل طرف غير مصرح له)، حادث الذكاء الاصطناعي (ينتج الذكاء الاصطناعي محتوى أو سلوكاً ضاراً)، انقطاع الخدمة (المنصة غير متاحة خلال فترة حرجة)، وانتهاك الامتثال (تفشل المدرسة أو المورد في تلبية متطلبات قانونية). تتطلب كل فئة استجابة مختلفة.

فريق الاستجابة للحوادث

يجب أن يضم فريق الاستجابة للحوادث: المدير (سلطة القرار)، وموظفي تكنولوجيا المعلومات (الاستجابة التقنية)، والمستشار القانوني (الآثار القانونية)، ومسؤول الاتصالات (التواصل مع أولياء الأمور والوسائل الإعلامية)، وجهة الاتصال للاستجابة للحوادث لدى المورد. يجب تحديد الفريق قبل حدوث أي حادث.

خطة الاستجابة للحوادث

تحدد خطة الاستجابة للحوادث: الأدوار والمسؤوليات، وبروتوكولات الاتصال (من يتم إخطاره، متى، وكيف)، والاستجابة التقنية (الاحتواء، والاستئصال، والتعافي)، والتوثيق (ما يتم تسجيله)، ومراجعة ما بعد الحادث (ما تم تعلمه). يجب اختبار الخطة سنوياً من خلال تمرين الطاولة.

إشعار أولياء الأمور

يُطلع إشعار أولياء الأمور الآباء على الحادث، والتأثير على طفلهما، والخطوات التي يتم اتخاذها. يجب أن يكون الإشعار في الوقت المناسب (في الإطار الزمني الذي يطلبه القانون وسياسة المنطقة)، وصادقاً (بدون تقليل)، وقابلاً للتنفيذ (يعرف الآباء ما يجب عليهم فعله). الإشعار هو طبقة الثقة.

الإشعار التنظيمي

يُطلع الإشعار التنظيمي السلطات ذات الصلة (النائب العام للولاية، والجهات التنظيمية الفيدرالية، وقيادة المنطقة) على الحادث، وفقاً لما يقتضيه القانون. يجب تقديم الإشعار بالتنسيق مع المستشار القانوني وفي الإطار الزمني المطلوب.

عناصر الاستجابة للحوادث الخمسة — الفئات، والفريق، والخطة، وإشعار أولياء الأمور، والإشعار التنظيمي — هي الأساس التشغيلي. المدرسة المستعدة للحادث هي مدرسة تستجيب بشكل جيد.

تدريب الموظفين

تدريب الموظفين هو الطبقة البشرية. يجب تدريب المعلمين، والمسؤولين، وموظفي الدعم على استخدام المنصة بأمان، وتحديد المخاطر، والاستجابة للحوادث.

تدريب المعلمين

يجب أن يغطي تدريب المعلمين: ميزات الخصوصية والأمان في المنصة، ومخاطر الذكاء الاصطناعي المحددة، وأدوات الإشراف على المحتوى، وتوقعات التواصل مع أولياء الأمور، وعملية الإبلاغ عن الحوادث. يجب أن يكون التدريب عملياً، وقائماً على السيناريوهات، ويتم تجديده سنوياً.

تدريب المسؤولين

يجب أن يغطي تدريب المسؤولين: حوكمة البيانات، وضوابط الوصول، وسجلات التدقيق، وتقارير الامتثال، وإدارة الموردين. يجب أن يتضمن التدريب ممارسة عملية باستخدام أدوات الإدارة.

تدريب موظفي الدعم

يجب أن يغطي تدريب موظفي الدعم: إجراءات مكتب المساعدة، والمشكلات الشائعة، ومسارات التصعيد، وتوقعات الخصوصية (عدم الاطلاع على بيانات الطلاب). يجب أن يكون التدريب موجزاً ومركزاً ويتم تحديثه مع تطور المنصة.

التدريب التنشيطي

يجب إجراء التدريب التنشيطي سنوياً، وبعد أي تحديث رئيسي للمنصة، وبعد أي حادث. يبقي التدريب التنشيطي الموظفين على اطلاع دائم ويعزز أهمية الممارسات.

توثيق التدريب

يسجل توثيق التدريب من تم تدريبه، ومتى، وعلى ماذا، وبأي تقييم. التوثيق هو دليل المدرسة على التدريب لعمليات تدقيق الامتثال وتحقيقات الحوادث.

عناصر تدريب الموظفين الخمسة — المعلم، والمسؤول، وموظف الدعم، والتنشيطي، والتوثيق — هي الأساس البشري. المدرسة التي تستثمر في التدريب هي مدرسة تستخدم المنصة بأمان.

التواصل مع أولياء الأمور

التواصل مع أولياء الأمور هو طبقة العلاقات. الولي هو الوصي النهائي على بيانات الطفل ويجب إعلامه وإشراكه.

إشعار الخصوصية

يُعلم إشعار الخصوصية أولياء الأمور بما يلي: البيانات التي يتم جمعها، وكيفية استخدامها، وكيفية حمايتها، ومن لديه حق الوصول، ومدة الاحتفاظ بها، والحقوق التي يمتلكها أولياء الأمور. يجب كتابة الإشعار بلغة واضحة، ومتاحاً بلغة أولياء الأمور، وتحديثه عندما تتغير الممارسات.

عملية الموافقة

تحصل عملية الموافقة على موافقة أولياء الأمور لجمع البيانات واستخدامها. يجب أن تكون العملية واضحة ومفصلة وموثقة. يجب الحصول على الموافقة قبل بدء جمع البيانات، وليس بأثر رجعي.

تقارير التقدم

تُعلم تقارير التقدم أولياء الأمور بما يلي: استخدام المنصة، وتفاعل الطفل، وميزات الذكاء الاصطناعي المستخدمة، وأي مشكلات نشأت. يجب أن تكون التقارير منتظمة (شهرياً أو ربع سنوياً)، ومحددة (وليس مجرد تجميعية)، وقابلة للتنفيذ (يمكن لأولياء الأمور التفاعل مع المنصة).

تصعيد المشكلات

يوفر تصعيد المشكلات مساراً واضحاً لأولياء الأمور لإثارة المخاوف بشأن المنصة، أو سلوك الذكاء الاصطناعي، أو التعامل مع البيانات. يجب أن يكون التصعيد مستجيباً (يتم الاعتراف به في غضون 24 ساعة)، ومفحوصاً (مع مشاركة النتائج)، ومحلولاً (مع توصيل الحل).

المراجعة السنوية

تلخص المراجعة السنوية ممارسات بيانات العام، والحوادث، والتحسينات. المراجعة هي تقرير المساءلة للعام المقدم إلى أولياء الأمور. يجب أن تكون المراجعة شفافة ومحددة ومرتبطة بالتزام المدرسة بسلامة الطلاب.

عناصر التواصل مع أولياء الأمور الخمسة — إشعار الخصوصية، وعملية الموافقة، وتقارير التقدم، وتصعيد المشكلات، والمراجعة السنوية — هي أساس العلاقات. المدرسة التي تتواصل بشكل جيد مع أولياء الأمور هي مدرسة تبني الثقة التي تجعل نظام إدارة التعلم بالذكاء الاصطناعي مستداماً.

نموذج الحوكمة

نموذج الحوكمة هو الطبقة الهيكلية. يحدد النموذج المسؤول عن ماذا، ومن يتخذ القرارات، وكيف تتم مراقبة المنصة بمرور الوقت.

مسؤول الخصوصية

مسؤول الخصوصية مسؤول عن وضع الخصوصية العام للمدرسة، بما في ذلك نظام إدارة التعلم. يوافق مسؤول الخصوصية على جرد البيانات، ويشرف على عملية الموافقة، ويتعامل مع استفسارات أولياء الأمور. قد يكون مسؤول الخصوصية دوراً مخصصاً أو مسؤولية إضافية لمسؤول حالي.

قائد سلامة الذكاء الاصطناعي

قائد سلامة الذكاء الاصطناعي مسؤول عن مخاطر الذكاء الاصطناعي المحددة، بما في ذلك الإشراف على المحتوى، ومراقبة التحيز، والاستجابة للحوادث. قد يكون قائد سلامة الذكاء الاصطناعي دوراً مخصصاً، أو معلماً لديه خبرة في الذكاء الاصطناعي، أو مستشاراً خارجيّاً. الدور حاسم لأن مخاطر الذكاء الاصطناعي تختلف عن مخاطر الخصوصية التقليدية.

قائد تكنولوجيا المعلومات

قائد تكنولوجيا المعلومات مسؤول عن التنفيذ التقني، وبنية الأمان، وإدارة الموردين. يعمل قائد تكنولوجيا المعلومات مع مسؤول الخصوصية وقائد سلامة الذكاء الاصطناعي لضمان أن التنفيذ التقني يلبي متطلبات الخصوصية والأمان.

ائتلاف المعلمين

ائتلاف المعلمين هو الطبقة التشغيلية، مع وجود معلمين رواد في كل قسم أو مستوى دراسي. يوفر الائتلاف تعليقات حول قابلية استخدام المنصة، ويحدد المشكلات الناشئة، ويدعم مجتمع المعلمين الأوسع.

ممثل أولياء الأمور

يوفر ممثل أولياء الأمور منظور الولي حول المنصة والسياسات والاتصالات. قد يكون الممثل عضواً في جمعية الآباء والمعلمين (PTA)، أو عضواً في مجلس المدرسة، أو ولي أمر تم اختياره لهذا الدور. يضمن الممثل سماع صوت الولي في الحوكمة.

أدوار نموذج الحوكمة الخمسة — مسؤول الخصوصية، وقائد سلامة الذكاء الاصطناعي، وقائد تكنولوجيا المعلومات، وائتلاف المعلمين، وممثل أولياء الأمور — هي الأساس الهيكلي. المدرسة التي تستثمر في الحوكمة هي مدرسة تحافظ على ممارسات السلامة والخصوصية بمرور الوقت.

الخاتمة

السلامة، والخصوصية، والذكاء الاصطناعي في نظام إدارة التعلم للمدارس هو منضبطة تصميم ونشر وإدارة منصة تعلم مدعومة بالذكاء الاصطناعي بطريقة تحمي كل طفل، وتتثال لكل قانون مطبق، وتكسب ثقة كل ولي أمر. المشهد القانوني، ومبدأ تقليل البيانات، وعملية موافقة أولياء الأمور، ومخاطر سلامة الأطفال الخاصة بالذكاء الاصطناعي، ونهج الإشراف على المحتوى، وبنية أمن البيانات، والعناية الواجبة للموردين، والاستجابة للحوادث، وتدريب الموظفين، والتواصل مع أولياء الأمور، ونموذج الحوكمة هي الهيكل.

سياق K-12 هو السياق الأكثر رهانًا لنظام إدارة التعلم بالذكاء الاصطناعي. المدرسة التي تلبي المعيار هي مدرسة تحمي طلابها وتكسب ثقة المجتمع. والمدرسة التي تقصر هي مدرسة تعرض طلابها لمخاطر قانونية وأخلاقية وسمعة. المعيار هو المعيار لسبب وجيه.

هل أنت مستعد لنشر نظام إدارة التعلم بالذكاء الاصطناعي في سياق K-12؟ جدول عرض توضيحي لمنترون وأحضر سياسات الخصوصية الخاصة بمنطقتك، وعملية موافقة أولياء الأمور، وخطة الاستجابة للحوادث الخاصة بك — بحلول نهاية المكالمة، سنستعرض مراجعة سلامة الذكاء الاصطناعي وبنية أمن البيانات.

الملخص

تعد خصوصية النظام المدرسي لخصوصية نظام إدارة التعلم هي ثمن القبول، وليست مجرد ميزة، والإطار الموضح هنا مبني على افتراض أن المدارس تتحمل المسؤولية الأساسية عن البيانات التي تغادر المنصة والبيانات التي يتم مشاركتها مع أولياء الأمور والمسؤولين والأطراف الثالثة. ضوابط خصوصية نظام إدارة التعلم المدرسي الموصوفة هنا هي الحد الأدنى للامتثال لقوانين FERPA، وGDPR-K، وقانون حماية البيانات الشخصية في الهند (DPDP) وليست الحد الأقصى. استخدم إطار عمل خصوصية نظام إدارة التعلم المدرسي هذا كنقطة بداية، وتحقق من تدفقات البيانات مع مسؤول حماية البيانات (DPO) أو مسؤول الخصوصية، وقم بتدقيق الممارسات الفعلية للمورد، وليس سياساته المنشورة.

السياق التربوي والبحثي

تعتبر خصوصية السلامة والأمان في نظام إدارة التعلم المدرسي بالذكاء الاصطناعي ناتجة عن قرارين في التصميم: كيف يتم جمع بيانات التقييم التكويني وتخزينها، وما إذا كانت خوارزميات التعلم التكيفي قادرة على استنتاج سمات لا ينبغي تتبعها (مثل الوضع الاجتماعي والاقتصادي، أو صعوبات التعلم، أو حالة الهجرة). الأطر ذات الصلة للمؤسسات هي قانون FERPA في الولايات المتحدة، وGDPR-K في الاتحاد الأوروبي، وقانون DPDP الهندي. تربوياً، يجب أن يحافظ نظام إدارة التعلم بالذكاء الاصطناعي على حلقة التقييم التكويني دون جعل بيانات كل متعلم قابلة للتعرف عليها من قبل الزملاء أو المسؤولين بما يتجاوز ما تتطلبه المؤسسة. ينبغي على المدارس التي تقيم هذه الفئة وزن نضج الامتثال كمعيار اختيار من الدرجة الأولى، وليس مجرد خانة اختيار.

المراجع والقراءات الإضافية

تستند الأطر والمعايير والأبحاث المذكورة في هذه المقالة إلى المصادر التالية.

الأسئلة الشائعة

ما هو أهم قانون لخصوصية نظام إدارة التعلم لـ K-12؟

في الولايات المتحدة، يعتبر قانون COPPA (للأطفال دون سن 13 عاماً) وقانون FERPA (لجميع الطلاب) القوانين الفيدرالية الأساسية. في الاتحاد الأوروبي، تحكم اللائحة GDPR-K (المادة 8 تحديدا) بيانات الأطفال. في الولايات القضائية الأخرى، تنطبق القوانين المكافئة. القوانين متعددة الطبقات، ويجب على المدرسة الامتثال للأكثر صرامة بينها. قد تفرض سياسة المنطقة التعليمية أيضاً متطلبات إضافية.

كيف يمكننا تقليل جمع البيانات في نظام إدارة التعلم بالذكاء الاصطناعي؟

استخدم مراجعة تقليل البيانات لتحديد البيانات الأساسية للغرض التعليمي. قم بتكوين المنصة لجمع البيانات الأساسية فقط. استخدم الاسم المستعار لاستبدال المعرفات المباشرة بمعرفات عشوائية. اضبط سياسات الاحتفاظ التي تحذف البيانات عندما لم تعد هناك حاجة إليها. اختر مورداً يدعم هذه التكوينات وتم تدقيقه لممارسات تقليل البيانات.

ما هي مخاطر الذكاء الاصطناعي الخاصة بالأطفال؟

تشمل مخاطر الذكاء الاصطناعي الخاصة بالأطفال: المحتوى غير اللائق (قد ينتج الذكاء الاصطناعي محتوى غير مناسب للعمر)، ومحتوى إيذاء النفس (قد يفشل الذكاء الاصطناعي في اكتشاف أو الاستجابة بشكل مناسب لإشارات إيذاء النفس)، والتلاعب (قد يكون الأطفال أكثر عرضة للتلاعب بواسطة الذكاء الاصطناعي)، والتحيز (قد ينتج الذكاء الاصطناعي محتوى متحيزاً يؤثر على نمو الطفل)، والتبع (قد يصبح الطفل مفرط الاعتماد على الذكاء الاصطناعي). المخاطر حقيقية ويجب التخفيف منها من خلال مزيج من ضمانات ما قبل التوليد، والوقت الفعلي، وما بعد الحدث.

كيف نتعامل مع مخاوف أولياء الأمور بشأن الذكاء الاصطناعي في الفصل الدراسي؟

تواصل بشكل استباقي حول دور الذكاء الاصطناعي، والضمانات الموجودة، وحمايات خصوصية البيانات. توفير عملية موافقة واضحة مع خيارات تفصيلية. توفير مسارات بديلة لأولياء الأمور الذين ينسحبون من ميزات الذكاء الاصطناعي. إنشاء مسار تصعيد واضح للمخاوف. كن صادقاً بشأن المخاطر نهج المدرسة في إدارتها. تُبنى الثقة من خلال الشفافية وليس الطمأنة.

ماذا يجب أن نفعل إذا أنتج الذكاء الاصطناعي محتوى ضاراً لطالب؟

تعامل معه كحادث. اتبع خطة الاستجابة للحوادث. قم بإخطار الموظفين المناسبين (المعلم، والمرشد، والمسؤول). قيم التأثير على الطالب. قُم بتوفير الدعم المناسب. وثّق الحادث، والاستجابة، والتعلم. استخدم الحادث لتحسين الضمانات. تواصل مع الولي حسب الاقتضاء، بالتنسيق مع سياسة المدرسة ومستشارها القانوني.

القراءات والموارد ذات الصلة

تم تصميم منترون حول سير عمل خصوصية نظام إدارة التعلم المدرسي للمؤسسات التي تجاوزت مرحلة التسوق للميزات. جدول عرض توضيحي لاستعراض متطلباتك الخاصة ومعرفة كيف تتعامل المنصة مع مواد الدورة التدريبية الخاصة بك، وبيانات المتعلمين، ومجموعة التكامل الخاصة بك.