استخدام عاملي سامسونج لتقنية تشات جي بي تي يؤدي إلى تسريب البيانات السرية

اعتمد قسم شركة سامسونج للشرائح الإلكترونية على ChatGPT للمساعدة في حل المشكلات في شفرة المصدر الخاصة بهم. ومع ذلك، أثناء استخدام الروبوت الدردشة الذكي، كشفوا عن طريق الخطأ معلومات سرية مثل شفرة المصدر لبرنامج جديد وملاحظات اجتماعات داخلية حول أجهزتهم. للأسف، لم تتم عزلة هذه الحوادث بل تم الإبلاغ عن ثلاث حوادث خلال شهر واحد.

لاجتناب تكرار مثل هذه الانتهاكات مستقبلاً، سامسونج تعمل الآن على تطوير أداة AI خاصة بها مشابهة لـ ChatGPT وذلك حصراً لاستخدام الموظفين الداخليين. وسيمكن ذلك عمال المصانع من الحصول على مساعدة سريعة مع ضمان سلامة معلومات الشركة الحساسة. ومع ذلك، ستقوم هذه الأداة الجديدة بمعالجة الإرشادات التي حجمها 1024 بايت أو أقل فقط.

حدثت المشكلة لأن ChatGPT يتم إدارته من قبل شركة خارجية تستخدم سيرفرات خارجية. وبالتالي، عندما قامت سامسونغ بإدخال رموزها وسلاسل الاختبار ومحتوى الاجتماعات الداخلية في البرنامج، تم تسريب البيانات. قامت سامسونغ على الفور بإبلاغ قادتها وموظفيها عن خطر التسريب المحتمل للمعلومات السرية. حتى 11 مارس، لم تسمح سامسونغ لموظفيها باستخدام الروبوت الدردشة.

سامسونغ ليست الشركة الوحيدة التي تواجه هذه المشكلة. هناك العديد من الشركات التي تقوم بتقييد استخدام ChatGPT حتى يتم وضع سياسة واضحة بخصوص استخدام الذكاء الاصطناعي الإنتاجي. على الرغم من أن ChatGPT يوفر خيار إلغاء الاشتراك في جمع بيانات المستخدم، يجدر بالذكر أن المعلومات التي يتم إرسالها إلى الخدمة قد يتم الوصول إليها من قبل مطورها.

ما هو ChatGPT وكيف يعمل؟

ChatGPT هو تطبيق ذكاء اصطناعي تم تطويره بواسطة OpenAI يستخدم التعلم العميق لإنتاج نص شبيه بالإنسان في الاستجابة لبدايات المستخدم. يمكنه توليد نص بأنماط مختلفة ولأغراض متنوعة، بما في ذلك كتابة النصوص الإعلانية، والإجابة على الأسئلة، وصياغة رسائل البريد الإلكتروني، وإجراء محادثات، وترجمة اللغة الطبيعية إلى الشفرة، وشرح الشفرة في لغات البرمجة المختلفة.

يعمل ChatGPT عن طريق التنبؤ بالكلمة التالية في النص المعطى باستخدام الأنماط التي تعلمها من كمية كبيرة من البيانات أثناء عملية تدريبه. عن طريق تحليل سياق المحفز وتعلمه السابق، يقوم ChatGPT بإنشاء رد يهدف إلى أن يكون طبيعيًا ومترابطًا قدر الإمكان.

ما هي التدابير التي اتخذتها سامسونج لمنع التسريبات المستقبلية؟

بعد تسريبات البيانات التي انتجها ChatGPT، قامت سامسونج باتخاذ عدة خطوات لمنع حدوث مثل هذه الحوادث مرة أخرى. أولا، نصحت الشركة موظفيها بأخذ الحيطة عند مشاركة البيانات مع ChatGPT. كما قامت بتنفيذ قيد على طول الأسئلة التي تُرسل إلى الخدمة، حيث يقتصر طولها على 1024 بايت.

علاوة على ذلك، تعمل سامسونج حالياً على تطوير أداة ذكاء اصطناعي مشابهة لـ ChatGPT، ولكنها حصرية لاستخدام الموظفين الداخليين فقط. وسيضمن ذلك أن يتلقى عمال المصنع المساعدة السريعة في حين تأمين معلومات الشركة الحساسة. وحتى تطوير هذه الأداة، حذرت سامسونج موظفيها من المخاطر المحتملة المرتبطة باستخدام ChatGPT. كما أشاروا إلى أن البيانات التي يتم إدخالها في ChatGPT تنتقل وتخزن على خوادم خارجية، مما يجعل من المستحيل على الشركة التحكم في البيانات بمجرد تسليمها.

ما هي العواقب التي تعرض لها الموظفون الذين قاموا بتسريب البيانات السرية؟

لم يتم ذكر على وجه الصراحة نتائج للموظفين في شركة Samsung الذين تسربت لهم بيانات سرية إلى ChatGPT في المعلومات المتاحة. ومع ذلك، فإن Samsung Electronics تتخذ إجراءات لمنع تسريبات مستقبلية لمعلومات حساسة من خلال ChatGPT، بمن فيها فرض حد لحجم الأسئلة المقدمة بمقدار 1024 بايت. كما حذرت الشركة موظفيها من المخاطر المحتملة الناتجة عن استخدام ChatGPT.

علاوةً على ذلك، تقوم سامسونج سيميكوندكتور بتطوير أداة الذكاء الاصطناعي الخاصة بها للاستخدام الداخلي للموظفين، والتي ستكون مقتصرة على معالجة الاقتراحات التي لا تزيد عن 1024 بايت. تشير هذه الإجراءات إلى أن سامسونج تعتبر حماية معلوماتها السرية بجدية وتقوم بتنفيذ إجراءات للحد من المخاطر المرتبطة باستخدام ChatGPT.

ما نوع المعلومات السرية التي تم تسريبها؟

كم مرة قام موظفو سامسونج بتسريب بيانات سرية إلى ChatGPT؟

وفقًا لنتائج البحث، قام موظفو سامسونج بتسريب معلومات سرية لشات جي بي تي على الأقل في ثلاث مناسبات.