‫الشبكاتـ العصبيـــــــــــــة‬

‫‪Neural Networks‬‬

‫الفرقة الرابعـــــــة (حاسب آلي)‬

‫الفصل الدراسي الثانـي‬
‫أستاذ المقرر‬
‫د‪ /‬جمال محمد بحيرى‬
‫•اسم الكتاب األول‪ :‬الشبكات العصبية البنية الهندسية ‪،‬‬
‫الخوارزميات ‪ ،‬التطبيقات‬
‫•ترجمة و إعداد المهندس‪ /‬عالم زكي عيسى‬
‫سنة النشر ‪ 2000:‬‬ ‫•اسم الناشر‪ :‬شعاع‬

‫•اسم الكتاب الثاني‪Object-Oriented Neural :‬‬

‫‪++Networks in C‬‬
‫•اسم المؤلف ‪Joey Rogers:‬‬
‫سنة النشر ‪1997 :‬‬ ‫•اسم الناشر ‪Academic Press :‬‬
‫•‪ ‬‬
‫‪neural networks‬‬ ‫•اسم الكتاب الرابع‪in a :‬‬
‫‪softcomputing frameworks‬‬
‫•اسم المؤلف ‪K. –L. Du and M. N.S. Swamy :‬‬
‫سنة النشر‪2006 :‬‬ ‫•سنة الناشر‪Springer :‬‬
‫المحاضرة األولى‬

‫مقدمـــــــــــــــة‬
 ‫مفردات المحاضــــــــرة‬
‫مقدمة‬ ‫•‬
‫أنواع الشبكات العصبية‬ ‫•‬
‫مجاالت استخدام الشبكات العصبية‬ ‫•‬
‫كيفية استخدام الشبكات العصبية‬ ‫•‬
‫نبذة تاريخية عن مطوري علم الشبكات العصبية‬ ‫•‬
 ‫مقدمــــــــــــــــــــــــــــــــة‬
‫• شهد العالم في األونة األخيرة طفرة علمية واضحة في كل‬
‫ميادين الحياة‪ .‬ال أبالغ إذا قلت أن كل هذه الميادين طرق بابها‬
‫الحاسب اآللي و البرمجيات‪.‬‬
‫• على رأس هذه الميادين التحكم الصناعي و التطور الطبي و‬
‫التعرف‪ h‬على البصمات و الصور و األشكال و التي يستخدم‬
‫معظمها في األبحاث الجنائية و غيرها الكثير‪...‬‬
‫• أيضا استخدم الحاسب اآللي في إيجاد الحلول المثلى باالضافة‬
‫إل ميادين أخري كثيرة‬
‫مقدمــــــــــــــــــــــــــــــــة‬

‫• و لكن مع زيادة الصعوبات التقنية و تعقيدها و عدم‬

‫قدرة الحلول البرمجية التقليدية على استيعابها‪ ،‬قاد‬
‫المتخصصين و الباحثين في علوم الحاسبات إلى‬
‫التعمق في فهم آلية التفكير البشري و كيفية معالجته‬
‫للمعلومات و تخزينها و استرجاعها‪.‬‬
‫• أيضا اعتمد الباحثين أسلوب المحاكاة في حل العديد‬
‫من المشاكل‪.‬‬
 ‫مقدمــــــــــــــــــــــــــــــــة‬

‫كل هذا أدى إلى هيكلية برمجية جديدة‬

‫سميت بـ‬
‫الشبكات العصبية االصطناعية‬
‫(‪)Artificial Neural Networks‬‬
‫وهذا هو مقررنا الدراسي في هذا الفصل‬
 ‫مقدمــــــــــــــــــــــــــــــــة‬
‫• لم الشبكات العصبية و لم اآلن؟‬
‫?‪• Why Neural Networks and Why Now‬‬
‫• الهدف األساسي هو أن يخدم الحاسب اآللي االنسان في‬
‫شتى المجاالت و خاصة في جعل اآللة تتصرف بذكاء ألداء‬
‫عملها بإتقان و فعالية كبيرة‪.‬‬
‫• إعتمدت التجارـب و األبحاث و االختبارات على أفكار‬
‫أساسية نابعة من واقع االنسان‪.‬‬
 ‫مقدمــــــــــــــــــــــــــــــــة‬
‫• تابع‪ :‬لم الشبكات العصبية و لم اآلن؟‬
‫?‪• Why Neural Networks and Why Now‬‬
‫• تنقسم هذه األفكار إلى نوعين أساسين هما‪:‬‬
‫‪ -1‬فكرة اإلشراف‪ :‬نقصد بها محاكاة التفكيرـ البشرـي عن‬
‫طريق معلم يقدم لآللة أمثلة لكي تقوم اآللة بعملها بعدئذ‬
‫بشكل تلقائي بدال من تدخل االنسان بشكل دائم في عملها‪.‬‬
‫‪ -2‬فكرة التعلم بدون مشرف‪ :‬المصود هنا نمذجة الدماغ‬
‫البشري‪ .‬آي تقديم عدد من النماذج المتشابهة لآللة و التي‬
‫على اساسها تمييز أي نموذج جديد يقدم إليها‪.‬‬
 ‫مقدمــــــــــــــــــــــــــــــــة‬
‫• لم الشبكات العصبية و لم اآلن؟‬
‫?‪• Why Neural Networks and Why Now‬‬
‫• بعد تطبيق محاوالت الباحثين و العلماء على العديد من‬
‫المشاكل اليومية التي تواجه االنسان و ظهور العديد من‬
‫الكتب و التجارـب التي توضح هذه األفكار‪.‬‬
‫• كل ذلك جعل االنسان يقتنع بأن الحاسب سيصبح يوما ما‬
‫بديال عن االنسان في الكثير من المجاالت و سوف ينجز‬
‫عمله بإتقان و دون تعب‪.‬‬
 ‫كيف يتعلم اإلنسان؟‬
‫مثال بسيط‬
‫ممكن تعليم الطفل لبعض األشكال الهندسية في السنوات‬
‫األولى من عمره مثال‪:‬‬
 ‫كيف يتعلم اإلنسان؟‬
‫مثال بسيط‬
‫ممكن تعليم الطفل لبعض الصور في السنوات األولى من‬
‫عمره مثال‪:‬‬
 ‫ما هي الشبكات العصبيـــــــــــة؟‬
‫‪?What is Neural Nets‬‬
‫• تنقسم الشبكات العصبية إلى نوعين أساسيين هما‪:‬‬
‫‪ -1‬الشبكات العصبية االصطناعية‬
‫(‪)Artificial Neural Networks‬‬

‫‪ -2‬الشبكات العصبية الحيوية‬

‫(‪)Biological Neural Networks‬‬
 ‫الشبكات العصبية االصطناعية‬
‫(‪)Artificial Neural Networks‬‬
‫• الشبكات العصبية االصطناعية هي نظام معالجة للمعلومات‬
‫له مميزات أداء معينة بأسلوب يشابه الشبكات العصبية‬
‫الحيوية‪.‬‬
‫• لقد تم وضع الشبكات العصبية على صور رياضية تعتمد‬
‫على طريقة التفكير البشري و كيفية معالجة األعصاب‬
‫للمعلومات‪.‬‬
 ‫خطوات تكوين الشبكة العصبية االصطناعية‬
‫وكيفية معالجتها للمعلومات‬
‫تتم معالجة المعلومات في عناصر معالجة بسيطة تدعي‬ ‫‪.1‬‬
‫العصبونات (‪)Neurons‬‬
‫تمر االشارات بين العصبونات عبر خطوط ربط‬ ‫‪.2‬‬
‫ير‪h‬فق كل خط ر‪h‬بط بوز‪h‬ن معين(‪( )weight‬قيمة عددية)‬ ‫‪.3‬‬
‫و الذي يضرب مع االشارات الداخلة للعصبون‪.‬‬
‫يطبق على كل عصبون تابع تنشيط (غير خطي عادة) إلى‬ ‫‪.4‬‬
‫دخل الشبكة (مجموع إشارات الدخل الموزونة) ليجدد‬
‫اشار‪h‬ة الخر‪h‬ج الناجمة منه‪.‬‬
 ‫توصيف الشبكات العصبية‬
‫‪ .1‬شكل التر‪h‬ابط بين العصبونات (المعمارية)‬
‫‪ .2‬الطريقة التي تحدد األوز‪h‬ان لهذه التر‪h‬ابطات (التدريب ‪،‬‬
‫التعليم ‪ ،‬الخوارز‪h‬مية)‬
‫‪ .3‬نوع تابع التنشيط المستخدم‪.‬‬
 ‫مثال‬
‫• بفرض أنه لدينا العصبون ‪ Y‬الذي يستقبل دخله من‬
‫العصبونات ‪ X1, x2, X3‬و التي لها اشارات خرج هي ‪x1,‬‬
‫‪ x2, x3‬على الترتيب كما بالشكل (‪.)1.1‬‬
‫• نرمز‪ h‬أيضا بـ ‪ W1, W2, W3‬ألوزان الترابطات القادمة من‬
‫العصبونات ‪ X1, x2, X3‬إلى العصبون ‪ Y‬على الترتيب‪.‬‬
‫• إن دخل العصبون ‪ Y‬هو ‪ y_in‬و الذي يمكن وضعه على‬
‫الصور‪h‬ة‪:‬‬
‫‪Y_in = w1.x1 + w2.x2 + w3.x3‬‬
 ‫الشكل (‪ )1.1‬بنية العصبون‬

‫‪X1‬‬ ‫‪w1‬‬

‫‪X2‬‬ ‫‪w2‬‬ ‫‪Y‬‬

‫‪w3‬‬
‫‪X3‬‬
 ‫تابع المثال‬
‫• فعالية (اشارة خر‪h‬ج) العصبون ‪ Y‬تعطى بالعالقة‪:‬‬
‫)‪Y = f(y_in‬‬
‫حيث ‪ f‬تابع رياضي معين‪.‬‬
‫على سبيل المثال التابع سيغمويد (‪Binary Sigmoid‬‬
‫‪ )function‬و الذي على الصورة‪:‬‬

‫‪1‬‬
‫‪f  x ‬‬ ‫‪x‬‬
‫‪1 e‬‬
 ‫تطوير المثال‬
‫• بفرض أن العصبون ‪ Y‬مرتبط مع عصبونات اخر‪h‬ى مثل‬
‫‪ Z1, Z2‬مع أوزان ترابطات خاصة ‪ v1, v2‬على الترتيب‪.‬‬
‫• الشكل (‪ )1.2‬يوضج ذلك‪.‬‬
‫• الوحدة ‪ Y‬تسمى الطبقة الخفية‬
‫• سوف نتعر‪h‬ض لذلك بالتفصيل فيما بعد إن شاء هللا‪.‬‬
‫الشكل (‪ )1.2‬البنية البسيطة للشبكة العصبية‬

‫‪X1‬‬ ‫‪w1‬‬
‫‪v1‬‬ ‫‪Z1‬‬
‫‪X2‬‬ ‫‪w2‬‬ ‫‪Y‬‬
‫‪v2‬‬ ‫‪Z2‬‬
‫‪X3‬‬ ‫‪w3‬‬

‫وحدات الدخل‬ ‫وحدات مخفية‬ ‫وحدات الخرج‬

 ‫الشبكات العصبية الحيوية‬
‫‪Biological Neural Networks‬‬
‫• تتألف العصبونات الحيوية من ثالثة أقسام هي‪:‬‬
‫‪ .1‬االستطاالت‬
‫‪ .2‬الجسم‬
‫‪ .3‬المحور‬
‫• تستقبل االستطاالت االشارات من العديد من العصبونات االخرى‪.‬‬
‫• يقوم جسم العصبون الحيوي (‪ )Soma‬بجمع اشارات الدخل بعد‬
‫استقبلها كليا‬
‫• بعدها يتم بثها عبر المحور (‪ )Axon‬إلى الخاليا األخرى‪.‬‬
‫• الشكل (‪ )3.1‬يبين البنية العامة لعصبون حيوي‪.‬‬
 ‫الشبكات العصبية الحيوية‬
Biological Neural Networks
 ‫الشبكات العصبية الحيوية‬
‫‪:‬خطوات انتقال االشارة و معالجتها بين عناصر المعالجة‬
‫تستقبل عناصر المعالجة العديد من االشارات من الوسط‬ ‫‪.1‬‬
‫الخارجي‪.‬‬
‫يمكن أن تعدل االشار‪h‬ات الداخلة للعصبون عن طريق‬ ‫‪.2‬‬
‫األوزان في عقد االستقبال‪.‬‬
‫تجمع عناصر المعالجة أوز‪h‬ان الدخل القادمة لها من‬ ‫‪.3‬‬
‫عصبونات اخر‪h‬ى‪.‬‬
‫تقوم العصبونات عند شروط معينة بإعطاء أشارة على‬ ‫‪.4‬‬
‫خروجها‪.‬‬
‫إن الخروج الناتج عن هذه العصوبات يمكن أن يبث إلى‬ ‫‪.5‬‬
‫عدة عصوبات أخرى عبر أحد فر‪h‬وع المحور‪.‬‬
 ‫الشبكات العصبية الحيوية‬
‫‪:‬خطوات انتقال االشارة و معالجتها بين عناصر المعالجة‬
‫ويوجد العديد من الخصائص األخرى للشيكات العصبية االصطناعية‬
‫والمبنية على مبدأ العصوبات الحيوية وهي‪.‬‬
‫‪ -1‬تتم معالجة المعلومات محليا ضمن العصبون الواحد (كما هو الحال‬
‫بالنسبة لعمل الهرمونات التى تفعل وتنظم معالجة المعلومات فى‬
‫الخلية )‪.‬‬
‫‪ -2‬الذاكرة توزع على الشكل التالى‪-:‬‬
‫أ‪ -‬ذاكرة طويلة األجل تبقى في مشابك العصوبات أو األوزان‪.‬‬
‫ب‪ -‬ذاكرة قصيرة األجل تقابل األشارات المرسلة بواسطة العصوبات‪.‬‬
‫‪ -3‬إن طريقة تنظيم المشابك أي الترابط بين العصوبات يمكن أن تعدل‬
‫من خالل التجارب المطبقة على الشبكة للوصول إلى الشكل‬
‫المثالى‪.‬‬
‫‪ -4‬يمكن أن تسمح المشابك بين العصوبات بإرسال اإلشارات من‬
‫عصبون ألخر أو ال تسمح بإرسال هذه اإلشارات ‪.‬‬
 ‫الشبكات العصبية الحيوية‬
‫‪:‬خطوات انتقال االشارة و معالجتها بين عناصر المعالجة‬
‫تشتر‪h‬ك الشبكات العصبية األصطناعية واألنظمة العصبية‬
‫الحيوية بامتالكها سماحيات معينة بالنسبة للخطأ من‬
‫ناحيتين‪:‬‬
‫‪ -1‬يمكن أن تميز الشبكة العديد من إشارات الدخل والتى تختلف‪h‬‬
‫إلى حد ما عند أى إشارة شوهدت سابقأ (كمثال لألنظمة‬
‫الحيوية هو قدرتنا على تميز شخص ما من خالل الصورة‬
‫لم نكن قد شاهدناه من قبل أو تمييز‪ h‬شخص ما بعد فتر‪h‬ة‬
‫طويلة للقائه)‪.‬‬
‫‪ -2‬يمكن أن تتعرض العصوبات الحيوية ألضرار تبطل عملها‪.‬‬
 ‫كيف تستخدم الشبكات العصبية‬
‫• تتضمن الخصائص الهامة للشبكة‪-:‬‬
‫‪ -‬معمارية الشبكة‬
‫‪ -‬توضع األوزان بين التر‪h‬ابطات خالل مر‪h‬حلة التدريب‬
‫‪ -‬توابع التفعيل النموذجية‬
 ‫البنية الهندسية النموذجية للشبكة‬
‫تصنف الشبكات العصبية حسب عدد طبقاتها إلى‪:‬‬
‫‪ .1‬شبكات وحيدة الطبقة (ال تملك طبقة خفية)‬
‫‪ .2‬شبكات متعددة الطبقات (تملك طبقة خفية أو أكثر‪)h‬‬
‫‪ .3‬شبكات الطبقة المنافسة (التز‪h‬احمية)‬
 ‫الشبكة العصبية وحيدة الطبقة‬
‫• يوجد طبقة واحدة من تر‪h‬ابطات األوز‪h‬ان في هذا النوع من‬
‫الشبكات‪.‬‬
‫• تتميز‪ h‬هذه الشبكات بوجود‪-:‬‬
‫‪ -‬طبقة دخل تستقبل اإلشارة من العالم الخارجي‪.‬‬
‫‪ -‬طبقة الخرج التي نحصل منها على استجابة الشبكة‪.‬‬
‫‪ -‬توضع الترابطات بينهما‪( .‬انظر الشكل التالي)‬
‫من هذه الشبكات (هوبفيلد)‬
 ‫شبكة عصبية بطبقة وحيدة‬
‫‪X1‬‬ ‫‪w1j‬‬
‫‪w11‬‬ ‫‪Y1‬‬
‫‪w1m‬‬
‫‪wn1‬‬

‫‪wi1‬‬

‫‪Xi‬‬ ‫‪wij‬‬ ‫‪Yj‬‬

‫‪wim‬‬ ‫‪wnj‬‬

‫‪Xn‬‬ ‫‪wnm‬‬ ‫‪Ym‬‬

‫وحدات الدخل‬ ‫طبقة أوزان وحيدة‬ ‫وحدات الخرج‬

 ‫الشبكة متعددة الطبـقات‬
‫• تتكون هذه الطبقات من طبقة واحدة أو أكثر من العقد والتى‬
‫تدعى بالوحدات الخفية وتوضع بين وحدات الدخل ووحدات‬
‫الخرج ويوجد بين كل طبقتين متجاورتين طبقة من ترابطات‬
‫األوزان (دخل‪ -‬وخرج)‪(،‬دخل‪ -‬طبقة خفية)‪(،‬طبقة خفية –‬
‫خرج) بالنسبة لشبكة تحوي طبقة خفية واحدة ما بين طبقتي‬
‫الدخل والخرج‪.‬‬
‫• وتستطيع الشبكات متعددة الطبقات بالمقارنة مع الشبكات‬
‫وحيدة الطبقة حل العديد من المشاكل المعقدة ولكن تدر‪h‬يب‬
‫هذه الشبكات يستغر‪h‬ق وقتأ أطول لكن يمكن أن يكون‬
‫التدريب لهذه الشبكات ناجحأ أكثر من غيره‪ .‬حيث يمكن أن‬
‫نتعرض لمشكلة ال يمكن حلها إطالقأ باستخدام شبكة وحيدة‬
‫الطبقة حتى لو دربت لفترة طويلة‪.‬‬
 ‫شبكة عصبية متعددة الطبقات‬
X1 w11 Y1 v11 Z1
w1j v1j
w1m v1l
wn1 vm1

wi1 vj1

Xi wij Yj vjk Zk
wim wnj vjl vmk

Xn wnm Ym vml Zl

‫وحدات الدخل‬ ‫الوحدات الخفية‬ ‫وحدات الخرج‬

 ‫الطبقة المنافسة (التزاحمية)‬
‫• تعتبر الشبكات العصبية ذات الطبقات المنافسة أحد أنواع‬
‫الشبكات العصبية المستخدمة في حل نوع خاص من المشاكل‬
‫وسيتم شرح العديد من األمثلة التي تستخدم هذه الشبكات في‬
‫الفصلين(‪ )5-4‬ويوضوح المثال من (‪ )6-1‬معمارية الطبقة‬
‫التزاحمية ونالحظ أن التوصيالت الداخلية التزاحمية تملك قيم‬
‫أوزان(‪.)-Є‬‬
‫• تتز‪h‬احم جميع التوصيالت الداخلية في الطبقة التزاحمية علي‬
‫العملية (اإلشارة) التي تطبق عليها ليحصل عليها رابح واحد‬
‫فقط ومثال علي هذه الشبكات هي شبكة ‪ Maxnet‬للعالم‬
‫‪Lippman‬‬
 ‫الطبقة التزاحمية‬

‫‪1‬‬ ‫‪1‬‬
‫‪-Є‬‬
‫‪A1‬‬ ‫‪Am‬‬
‫‪-Є‬‬

‫‪-Є‬‬ ‫‪-Є‬‬ ‫‪-Є‬‬

‫‪Ai‬‬ ‫‪Aj‬‬
‫‪-Є‬‬ ‫‪1‬‬
‫‪1‬‬
‫توضع األوزان(‪)Setting the weights‬‬
‫تعتبر عملية توضع األوزان خالل مرحلة التدريب‬ ‫•‬
‫مسألة هامة جدأ وهي التي تميز الشبكات العصبية‬
‫عن بعضها باإلضافة إلى معمارية الشبكة‪.‬‬
‫ويمكن تقسيم طرق تدريب الشبكات العصبية‬ ‫•‬
‫االصطناعية إلى ‪:‬‬
‫التدريب بمعلم‪.‬‬ ‫‪.1‬‬
‫التدريب بدون معلم‪.‬‬ ‫‪.2‬‬
 ‫توضع األوزان‬
‫• التدريب بمعلم(‪)Supervised Training‬‬
‫• يتم في هذا النوع تدريب الشبكة على سلسلة من عينات‬
‫تدريب الدخل التي يرافقها نموذج من عينات الخرج‬
‫المر‪h‬تبطة بها‪.‬‬
‫• تعدل االوزان وفق خوارز‪h‬مية تعليم تدعى بالتدريب بمعلم‬
‫ويكون الخرج فى هذه الشبكة عنصر معالجة قالب أي‪:‬‬
‫‪ -‬يأخذ الخرج القيمة (‪ )1‬إذا كان شعاع الدخل تابعا ً إلي أحد‬
‫أصناف العينات‬
‫‪ -‬ويأخذ قيمة (‪ )-1‬إذا كان الشعاع ليس تابعا ً إلي أي صنف‪. h‬‬
 ‫توضع األوزان‬
‫• التدريب بدون معلم (‪)Unsupervised Training‬‬
‫• تنظم الشبكات التي تعتمد على مبدأ التدريب بدون مشر‪h‬ف أشعة‬
‫الدخل المتشابه بجانب بعضها تلقائيا بدون استخدام معطيات‬
‫التدريب لتحدد ما هو العضو النموذجي من هذه المجموعة أو إلى‬
‫أي مجموعة ينتمي هذا الشعاع‪.‬‬
‫• يتم تقديم عدداً من أشعة الدخل بدون تخصيص أي أشعة خرج‬
‫مقابله لها و تستطيع هذه الشبكات تعديل أوزان ترابطها و بالتالي‬
‫جميع اشعة الدخل المتشابه توجه الى نفس وحدة الخرج‪ .‬و تنتج‬
‫هذه الشبكات أشعة مماثلة ألشعة التدريب و هي نوع من شبكات‬
‫التنظيم الذاتي (مثال ‪ Kohonen‬و نظرية الطنين المتكيفة)‬
 ‫توضع األوزان‬
‫• شبكات األوزان الثابتة‬
‫• تستطيع العديد من الشبكات العصبية إيجاد الحل األمثل‬
‫للمسائل المقيدة ‪ ،‬وتستطيع شبكة األوزان الثابتة حل هذا‬
‫النوع من المسائل والتي يصعب حلها بالطرق التقليدية‪.‬‬
‫• تصمم هذه الشبكات بحيث تكون فيها أوزان الترابطات ثابتة‬
‫لتمثيل القيود وكمياتها بحيث تكون الحلول المثلى أعظمية أو‬
‫أصغريه‪.‬‬
‫• هذا النوع من الشبكات يعتمد آلية بولتزمان بدون معلم وشبكة‬
‫هوبفيلد‪.‬‬
 ‫توابع التنشيط الشائعة‬
‫‪Common Activation Functions‬‬
‫• تتضمن العملية األساسية في خوارز‪h‬ميات التعلم‪-:‬‬
‫‪ -‬جمع إشارات الدخل المضروبة باألوزان‬
‫‪ -‬ثم تطبيق تابع التنشيط (التفعيل)‬
‫• البد من استخدام توابع تنشيط معينة في خوار‪h‬زميات التعليم‪.‬‬
‫• الحظ‪ :‬الشبكات العصبية المتعددة الطبقات‬
‫ممكن أن تستخدم توابع تنشيط غير خطية‬
‫باإلضافة إلى توابع التنشيط الخطية‪.‬‬
‫• سوف نستعرض بعض توابع التنشيط الشائعة‬
‫المستخدمة في خوارزميات التعلم‪.‬‬
 ‫توابع التنشيط الشائعة‬
‫‪Common Activation Functions‬‬

‫‪ .1‬تابع التطابق‪:‬‬
‫‪F(x) = x for all x‬‬
‫‪ -‬من الواضح أنه تابع خطي يستخدم في الشبكات وحيدة الطبقة‪.‬‬
‫‪ -‬يستخدم لتحويل دخل الشبكة إلى شكل مناسب إلشارة الخر‪h‬ج‪.‬‬
‫انظر‪ h‬الشكل التالي‬
 ‫تابع التطابق‬

‫)‪F(x‬‬

‫‪X‬‬
 ‫توابع التنشيط الشائعة‬
‫‪Common Activation Functions‬‬
‫‪ .2‬تابع التنشيط الثنائي (ذو عتبة ‪:)θ‬‬
‫له الشكل‪:‬‬
‫‪1‬‬ ‫‪if x  ‬‬
‫‪f  x‬‬
‫‪0‬‬ ‫‪if x  ‬‬
‫يوضح الشكل التالي هذا التابع و الذي يعطي قيمة خرج إما [‪]0‬‬
‫أو [‪ ]1‬أي خرج ثنائي‪.‬‬
‫يستخدم هذا التابع قيمة عتبة معينة تدعي (‪.)θ‬‬
‫تابع التنشيط الثنائـي (ذو عتبة ‪)θ‬‬

‫)‪F(x‬‬

‫‪1‬‬

‫‪θ‬‬
‫‪X‬‬
 ‫توابع التنشيط الشائعة‬
‫‪Common Activation Functions‬‬
‫‪ .3‬تابع تنشيط سيغمويد الثنائي‪)binary Sigmoid( :‬‬
‫له الشكل الرياضي‪:‬‬
‫‪1‬‬
‫‪f  x ‬‬
‫‪1  e  x‬‬
‫حيث ‪ σ‬هي معامل االنحدار‬
‫و مشتقه هو‪f’(x) = σ.f(x).[1-f(x)] :‬‬
‫الحظ‪ :‬أفضل األنواع استخداما مع شبكات ‪Backpropagation‬‬
‫انظر‪ h‬الشكل التالي‬
‫تابع تنشيط سيغمويد الثنائي‬
‫تابع تنشيط سيغمويد الثنائي‬

‫عند ‪σ=1, σ=3‬‬

 ‫توابع التنشيط الشائعة‬
‫‪Common Activation Functions‬‬
‫‪ .3‬تابع تنشيط سيغمويد ثنائي القطبية(‪Bipolar‬‬
‫‪)Sigmoid‬‬
‫له الشكل الر‪h‬ياضي‪:‬‬
‫‪2‬‬ ‫‪1  e  x‬‬
‫‪g  x   2.f  x   1 ‬‬ ‫‪ x‬‬
‫‪1 ‬‬ ‫‪ x‬‬
‫‪1e‬‬ ‫‪1 e‬‬
‫حيث ‪ σ‬هي معامل االنحدار‬
‫و مشتفه هو‪g’(x) = σ/2.[1+g(x)].[1-g(x)] :‬‬

‫انظر‪ h‬الشكل التالي‬

‫تابع تنشيط سيغمويد ثنائي القطبية‬
‫‪1‬‬

‫‪-1‬‬
 ‫ملخص لبـعض الرموز‬

‫انظر هذا الحزء‬

‫باستخدام الورد‬
‫تمت بحمد هللا و فضله‬