شکل ۳- ۴٫ لایه‌های یک شبکه‌ی عصبی مصنوعی
توابع فعالیت، انواع گوناگونی دارند که بر حسب موضوع پژوهش، توسط طراح انتخاب می‌شوند:
۱- تابع خطی: در ادبیات شبکه‌های عصبی، منظور از یک تابع فعالیت خطی، یک تابع خطی همانی است.

۲- تابع آستانه‌ای دو مقدار حدی:

۳- تابع سیگموئید^[۱۲۹]:

۴- تابع تانژانت هایپربولیک^[۱۳۰]:

۳-۸-۴٫ تحلیل مسیر
در تحلیل رگرسیون خطی چند متغیره قصد داریم رابطه خطی بین متغیرهای مستقل و متغیرهای وابسته را پیش بینی کنیم . اما موضوعی که در اجرای روش تحلیل رگرسیون مطرح است ، این است که در آن ما فقط می توانستیم تاثیر مستقیم هر یک از متیغیرهای مستقل بر متغیر وابسته را پیش بینی کنیم و امکان شناسایی تاثیرات غیر مستقیم متغیرهای مستقل بر متغیر وابسته فراهم نبود . در چنین حالتی ، نمی توانیم مدل مفهومی و نظری تحقیق را که معمولاً یک مدل نظری متشکل از ساخت روابط بین متغیرهای مستقل است، مورد آزمون قرار دهیم.برای رفع چنین مشکلی ، می توانیم از روش تحلیل مسیر استفاده کنیم. بنابراین، تحلیل مسیر که برای نخستین بار توسط سوول رایت در سال ۱۹۳۴ توسعه یافت ، تعمیم یافته روش رگرسیون چند متغیره در ارتباط با تدوین مدل های علی است. تحلیل مسیر یک روش پیشرفته آماری است که به کمک آن می توانیم علاوه بر تاثیرات مستقیم، تاثیرات غیر مستقیم هر یک از متغیرهای مستقل بر متغیر وابسته را نیز شناسایی کنیم . بنابراین، مهم ترین مزیتی که استفاده از رو ش تحلیل مسیر نسبت به روش رگرسیون دارد ، این است که در روش تحلیل رگرسیون ، تنها قادر به شناسایی تاثیر مستقیم هر متغیر مستقل بر متغیر وابسته بودیم ، اما در روش تحلیل مسیر علاوه بر تاثیر مستقیم، امکان شناسایی تاثیرات غیر مستقیم هر یک از متغیرهای مستقل بر متغیر وابسته نیز وجود دارد. به همین خاطر ، در تحلیل مسیر ، با چندین معادله خط رگرسیونی استاندارد شده مواجه هستیم، در حالی که در تحلیل رگرسیون ، تنها یک معادله خط رگرسیونی استاندارد شده داریم. از طرفی، در تحلیل مسیر ما می توانیم میزان کاذب بودن روابط بین متغیرها را نشان دهیم. یعنی چقدر از این روابط ناشی از متغیرهای مستقل مورد نظر و چقدر ناشی از متغیرهای خارج از تحلیل ماست. در تحلیل مسیر فلشها مشخص کننده تاثیرات علی از متغیرهای مستقل به سمت متغیرهای وابسته میانی و نهایی می باشند. تحلیل مسیر مشخص می کند اثر هر متغیر تا چه حد مستقیم و تا چه حد غیر مستقیم است. بدین ترتیب ، تحلیل مسیر به طریقی قابل فهم ، اطلاعات زیادی درباره فرآیندهای علی فراهم می آورد. به عبارتی تکنیک تحلیل مسیر برای تعیین اثر مستقیم و غیر مستقیم و بی اثری بین متغیرهای موجود در نظام علی و همچینن میزان تطابق مدل نظری با مجموعه ای از داده ها مورد استفاده قرار می گیرد. بنابراین، در تحلیل مسیر، مدل نظری تحقیق مبنی بر الگوی روابط علی بین متغیرها مورد آزمون قرار گرفته و این مدل نظری پس از اجرای آزمون به مدل تجربی تحقیق تبدیل می شود(عادل آذر، ۱۳۸۱: ۵۹-۶۱).

مهم ترین بخش از تحلیل مسیر طراحی و آزمون نمودار مسیر است که از چند جز اساسی تشکیل شده است. نمودار مسیر در واقع، یک مدل ساختاری پیشینی پیش تجربی با مجموعه معادله ساختاری است که روابط علی ممکن بین متغیرها را توصیف می کند. این نمودار مسیر ، همواره پس از مرور بر مبانی نظری و تدوین چارچوب نظری انتخابی تحقیق توسط محقق طراحی میشود که در نهایت در تحلیل مسیر مورد آزمون تجربی قرار می گیرد. نمودار مسیر ترکیبی از مجموع مسیرها است که به صورت پیکان های یک طرفه، متغیرهای مستقل را به متغیر وابسته وصل می کند . هر کدام از این مسیرها، با یک ضریب مسیر مشخص می شوند . ضریب مسیر ،  همان بتا ( Beta ) است که بیانگر سهم یا وزن هر متغیر مستقل در تبیین واریانس متغیر وابسته است. در نمودار مسیر ، هر متغیر مستقل یک ضریب مسیر دارد که مقدار تغییر مورد انتظار در متغیر وابسته را در نتیجه یک واحد تغییر در متغیر مستقل را نشان می دهد. یعنی نشان می دهد که به ازای یک واحد از متغیر مستقل ، چه مقدار تغییر در متغیر وابسته ایجاد می شود. بنابراین در چنین تاثیری متغبر اول علت و متغیر دوم را معلول نام دارد.در تحلیل مسیر ، اگر متغیری فقط از یک متغیر تاثیرپذیر باشد ، آن گاه، ضریب مسیر آن برابر با ضریب همبستگی است. ضریب مسیر را با حرف P ( اختصار path ) بر روی یک پیکان و شماره متغیرهای را نیز به صورت اندیس زیر p نشان می دهندیعنی به صورت pijکه در آن، اندیس ها، بیانگر شماره متغیرهایی است که که با پیکان به هم وصل شده اند، بدین صورت که ، i انتهای پیکان و متغیر وابسته و j ابتدای پیکان و متغیر مستقل است و همیشه نیز i>j می باشد. در تحلیل مسیربا چندین دسته از متغیرها سرو کار داریم:
متغیرهای درونی: در تحلیل مسیر ، متغیرهای درونی شامل متغیر وابسته . متغیر مستقل است که در زیر به تفکبک به شرح آنها پرداخته می شود:
متغیر وابسته: در تحلیل مسیر با دو دسته کلی از متغیر وابسته سروکار داریم:
متغیر وابسته نهایی: متغیری است که در نهایت تمامی تحلیل های تحقیق مبنی بر تاثیرات متغیرهای مستقل باید بر روی آن انجام شود.
متغیر وابسته میانی: در واقع همان متغیر مستقل است که در برخی مراحل تحلیل مسیر ، نقش یک متغیر وابسته میانی یا واسط را ایفا کرده و تاثیر سایر متغیرهای مستقل مدل بر روی آن آزمون می شود.
متغیر های مستقل: متغیری است که بر متغیرهای وابسته اعم از نهایی و میانی تاثیر می گذارد.
متغیرهای درونی: متغیرهایی هستند که نه تنها از یک طرف متغیرهای مستقل بوده و تاثیر آنها بر متغیر وابسته نهایی یا میانی مورد آزمون قرار می گیرد، بلکه از طرف دیگر خود نیز طبیعتاً تحت تاثیر متغیرهایی هستند که خارج از مدل قرار دارند و در این تحقیق اثر سایر متغیرها بر روی آنها مورد بررسی قرار نگرفته است. بنابراین، متغیرهای بیرونی متغیرهایی هستند که اثر متغیرهای مستقل آنها بررسی نمی شود. البته باید اشاره داشت که گرچه اثر متغیرهای مستقل بر متغیرهای بیرونی سنجیده نمی شود اما در هنگام آزمون مدل نظری، به بررسی میزان همبستگی دو جانبه بین این متغیرهای بیرونی می پردازیم، تا پی ببریم که آیا وجود این متغیرها در مدل به صورت موزائیکی است یا خیر؟ مقدار ضرایب هر یک از این همبستگی ها در مدل تحلیل مسیر ، توسط فلش دو طرفه نشان داده می شود. بنابراین، این رابطه از نوع همبستگی است و نمی توان آن را علی فرض کرد.
متغیرهای باقیمانده (خارج از مدل): این متغیرها، در واقع متغیرهای خارج از مدل هستند که تاثیر علی آنها بر روی متغیرهای مدل یا آزمون نشده و یا تاثیر معنی داری نداشته اند، بدست نیامده است.متغیرهای باقیمانده را با e¹ و e² و e³ نشان می دهیم . همچنین مقدار تاثیر این متغیرها بر متغیرهای مدل را  کمیت خطا می نامند که آن را با علامت e نشان می دهیم که میزان واریانس تبیین نشده مدل را نشان می دهد. در تحلیل مسیر، برای ارزیابی مدل از آماره R² استفاده می شود. این آماره مقدار واریانس متغیر وابسته را نشان می دهد که متغیرهای مستقل در مدل توانسته اند آن را تبیین کنند. در واقع ، R²نشان می دهد که مدل تا چه اندازه برازنده مجموعه ای داده ها است . بنابراین، هر چه مقدار R² بالاتر باشد مدل قوی تر است و بر عکس مقدار پایین تر R² دلالت بر ضعف مدل دارد که باید مدل دیگری با ترتیب دیگری بین متغیرها بسازیم که تبیین کننده واریانس بیشتر باشند. همچنین، در کنار R²از طریق کمیت خطا e نیز می توانیم مناسب بودن مدل را ارزیابی کنیم . کمیت یا میزان خطا ( e ) که عبارت از ۱- R² می باشد، نشان دهنده میزانی از واریانس متغیر است که متغیرهای مقدم آن را تبیین نکرده اند. با مجذور کردن کمیت خطا ( یعنی e² ) ، واریانس تبیین نشده هر متغیر بدست می آید. به عنوان مثال، اگر مقدار R² برابر با ۴۰/۰ باشد در آن صورت مقدار e² برابر با ۶۰/۰ خواهد بود که نشان می دهد ۴۰ درصد از واریانس متغیر وابسته را مدل تبیین کرده و ۶۰ درصد باقیمانده آن را مدل نتوانسته است تبیین کند.
همان طور که قبلاً اشاره شد ، در تحلیل مسیر یک مدل نظری را به آزمون می گذاریم که در نهایت با اجرای تحلیل، این مدل نظری باید به یک مدل تجربی منتهی شود. بنابراین، طبیعی است که همواره ساخت روابط علی بین متغیرها در مدل تجربی ( که از تحلیل مسیر بدست می آید ) با مدل نظری ( که از چارچوب نظری بدست می آید ) فرق دارد. اما سوال این جا است که چه متغیرهایی در مدل باقی می مانند و چه متغیرهایی از آن حذف می شوند؟
قاعده کلی این است که در اجرای تحلیل مسیر ، متغیرهایی را که مقدار بتای آنها در سطح خطای کوچکتر از ۰۵/۰ معنی دار نشود ، از مدل حذف می کنیم. بنابراین، مسیر این متغیرها نیز از مدل حذف می شود . البته هر چه حجم نمونه بزرگتر باشد ، احتمال آن که ضرایب مسیر کوچکتر معنی دار شوند ، بیشتر است(عزیزی، ۱۳۸۹).
۳-۹٫ آزمون پیش فرضها
پیش فرضهای اساسی با توجه به روش های بکار رفته در تحقیق باید مورد آزمون قرار گیرند . در این تحقیق نرمال بودن توزیع متغیرها به عنوان پیش فرض مطرح است. این پیش فرض با بهره گرفتن از بررسی چولگی و کشیدگی تک تک متغیرها بررسی شد که نرمال بودن توزیع متغیرها مورد تایید واقع شده است.