Cross-Entropy

الإنتروبيا المُتقاطِعةُ
مِقياسٌ مأخوذٌ من عِلمِ نظرِيَّةِ المعلوماتِ لقياسِ الفرقِ بين توَزُّعَينِ احتِمالِيَّينِ لمجموعةٍ من المُتغيِّراتِ أو الأحداثِ، وهو مبنيٌّ على مفهومِ الإنتروبيا (التي تُعرَّفُ بأنها القيمةُ المُتوسِّطةُ لِمقياسِ المعلوماتِ المنقولةِ نتيجةً لإحداثِ حَدثٍ ما من مجموعةٍ محدودة من الأحداثِ المُستقلَّةِ تبادُليًا، تلك الأحداثُ التي لها احتمالاتٌ مُحدَّدةٌ وتُغطِّي كُلَّ فَضاءِ الاحتمالات)، تقيسُ الإنتروبيا المُتقاطِعةُ عُمومًا الإنتروبيا الكُليَّةَ لمجموعةٍ من التوزُّعاتِ الاحتماليَّة.

« Back to Glossary Index