مقاله

حتما به این موضوع برخورد کرده اید که برای آموزش دادن شبکه ها لازم است حتما داده های ورودی را نرمال کنیم. یکی از دلایل اصلی این کار این است که وزنهای شبکه ها نامتوازن نشوند تا آموزش شبکه طول نکشد. وزنهای نامتوازن باعث می شوند تابع هزینه شکل مناسبی نداشته باشد. اما در این پست می خواهیم دلیل دیگری برای نرمال کردن بیان کنیم که معمولا ذکر نمی شود. یکی از مهمترین دلایل برای نرمال کردن این است که با این کار واحد اندازه گیری از بین می رود. اگر داده ها نرمال نشوند، شما در قسمت خطی هر نورون ممکن است سرعت را با حجم، جمع وزن دار کنید. واحد اندازه گیری یکی متر بر ثانیه است و دیگری متر مکعب و همانطور که می بینید جمعشان خیلی معنی ندارد. وقتی نرمال سازی انجام می دهید، واحدهای اندازه گیری ساده می شوند؛ بنابراین در حین جمع وزن دار کردن، دو عدد که واحد ندارند با هم جمع می شوند و این کار خیلی بهتر است در مقایسه با حالت قبل.