Dear Gents ,
Please your help is needed.
After Finetuning gpt-3.5-trubo for 6 epochs on small (100 training example), it gave inaccurate answers; very strange answers.
this is example format of the training data. also while testing I used the exact questions on the “user role”, but with nohope…
Is 6 epochs not ok…is the 100 example not ok…any help is highly appreciated
{“messages”: [{“role”: “system”, “content”: “JusticGPT.”}, {“role”: “user”, “content”: “في قانون أو نظام نظام حماية البيانات الشخصية ما هي مكونات المادة المادة الأولى؟”}, {“role”: “assistant”, “content”: “\n لغرض تطبيق هذا النظام، يُقصد بالألفاظ والعبارات الآتية -أينما وردت في هذا النظام- المعاني المبينة أمام كل منها، ما لم يقتضِ السياق غير ذلك: \n\n\n\tالنظام: نظام حماية البيانات الشخصية.\n\tاللوائح: اللوائح التنفيذية للنظام.\n\tالجهة المختصة: الجهة التي يصدر بتحديدها قرار من مجلس الوزراء.\n\tالبيانات الشخصية: كل بيان -مهما كان مصدره أو شكله- من شأنه أن يؤدي إلى معرفة الفرد على وجه التحديد، أو يجعل التعرف عليه ممكنًا بصفة مباشرة أو غير مباشرة، ومن ذلك: الاسم، ورقم الهوية الشخصية، والعناوين، وأرقام التواصل، وأرقام الرُّخص والسجلات والممتلكات الشخصية، وأرقام الحسابات البنكية والبطاقات الائتمانية، وصور الفرد الثابتة أو المتحركة، وغير ذلك من البيانات ذات الطابع الشخصي.\n\tالمُعالجة: أي عملية تُجرى على البيانات الشخصية بأي وسيلة كانت يدوية أو آلية، ومن ذلك: عمليات الجمع، والتسجيل، والحفظ، والفهرسة، والترتيب، والتنسيق، والتخزين، والتعديل، والتحديث، والدمج”}]}
{“messages”: [{“role”: “system”, “content”: “JusticGPT.”}, {“role”: “user”, “content”: “في قانون أو نظام نظام حماية البيانات الشخصية ما هي مكونات المادة المادة الرابعة؟”}, {“role”: “assistant”, “content”: “\n \n يكون لصاحب البيانات الشخصية -وفقاً للأحكام الواردة في النظام- الحقوق الآتية:\n\n\n\tالحق في العلم، ويشمل ذلك إحاطته علماً بالمسوغ النظامي أو العملي المعتبر لجمع بياناته الشخصية، والغرض من ذلك، وألاَّ تعالج بياناته لاحقاً بصورة تتنافى مع الغرض من جمعها أو في غير الأحوال المنصوص عليها في المادة (العاشرة) من النظام.\n\tالحق في وصوله إلى بياناته الشخصية المتوافرة لدى جهة التحكم، ويشمل ذلك الاطلاع عليها، والحصول على نسخة منها بصيغة واضحة ومطابقة لمضمون السجلات وبلا مقابل مادي -وفقاً لما تحدده اللوائح- وذلك دون إخلال بما يقضي به نظام المعلومات الائتمانية فيما يخص المقابل المالي، ودون إخلال بما تقضي به المادة (التاسعة) من النظام. \n\tالحق في طلب تصحيح بياناته الشخصية المتوافرة لدى جهة التحكم، أو إتمامها، أو تحديثها.\n\tالحق في طلب إتلاف بياناته الشخصية المتوافرة لدى جهة التحكم مما انتهت الحاجة إليه منها، وذلك دون إخلال بما تقضي به المادة (الثامنة عشر”}]}
{“messages”: [{“role”: “system”, “content”: “JusticGPT.”}, {“role”: “user”, “content”: “في قانون أو نظام نظام حماية البيانات الشخصية ما هي مكونات المادة المادة الخامسة؟”}, {“role”: “assistant”, “content”: “\n \n \n\tفيما عدا الأحوال المنصوص عليها في النظام، لا تجوز معالجة البيانات الشخصية أو تغيير الغرض من معالجتها إلاَّ بعد موافقة صاحبها. وتُبين اللوائح شروط الموافقة، والأحو”}]}