Diskret xabar manbasining entropiyasi - bu xabar manbasi tarafidan ma'lum vaqt ichida ishlab chiqariladigan o'rtacha axborot miqdorini o'lchash mezoni bo'lib, axborot nazariyasining asosiy tushunchalaridan biri hisoblanadi. Entropiya atamasi Claude Shannon tomonidan 1948 yilda kiritilgan bo’lib, u axborotning noaniqligini yoki tasodifiyligini ifodalaydi