پیشرفت روزافزون علم و مواجه شدن با مسائلی که علاوه بر ماهیت غیرخطی بودن مشتق ناپذیری نیز داشته اند سبب شد که محققین در جستجوی روشهایی غیر از ریاضی کلاسیک برای مسایل بهینه سازی باشند.محققین با الهام از طبیعت روشهایی را برای حل این مسایل ابداع نمودند که از جمله می توان الگوریتم های تکاملی و شبکه های عصبی را نام برد. الگوریتم های تکاملی شامل سه بخش الگوریتم ژنتیک برنامه ریزی تکاملی و استراتژی تکاملی می باشد. الگوریتم های تکاملی از قانون بقای تکاملی داروین و کلونی مورچه از روشهای پیدا کردن غذا توسط مورچگان الهام گرفته اند. در این پایان نامه ضمن تشریح روشهای فوق به مواردی از کاربرد آنها نیز اشاره شده است.