Atualmente o YouTube está testando o HTML5 em seus vídeos, mas não lista o Firefox como navegador compatível. O Firefox pode sim exibir vídeos em HTML5, porém o Youtube usa um "codec" patenteado para codificar seus vídeos, impossibilitando o seu uso por um software de código-aberto (como é o Firefox).

O que é HTML5?

As grandes indústrias da Internet trabalham para criar códigos que possibilitem a criação de websites de uma maneira mais fácil. Como os atuais websites utilizam códigos tradicionais, os modernos navegadores devem abrí-los corretamente. O HTML5 é uma criação um pouco mais recente; que também suporta a "tag" video para incorporar vídeos em uma página. (Antes do HTML5, não existia um padrão para vídeos.)

O Firefox possui suporte para vídeos em HTML desde a versão 3.5. Veja Áudio e vídeo em HTML5 no Firefox (em inglês).

Por que o YouTube em HTML5 não suporta o Firefox?

O padrão do HTML5 define a "tag", mas não o codec a ser usado. O YouTube usa o codec H.264, que é patenteada, o que significa que o usuário pode estar sob algumas licenças de produto. A Google e a Apple pagam anualmente uma grande quantia para poderem usar esse codec em seus navegadores.

A Mozilla acredita numa Internet livre, e esses formatos protegidos podem limitar o desenvolvimento e criatividade de pessoas que não podem pagar por uma licença.

Para mais informações, leia shaver » HTML5 video and codecs (em inglês).

Quais codecs o Firefox suporta?

Vorbis audio e Theora video, (desenvolvidos por The Xiph.Org Foundation) são livres para uso. Vorbis e Theora usam o formato chamadoOgg.

Dailymotion é um exemplo de website que suporta o Ogg Theora.

Se você quiser relatar esse problema ao YouTube, acesse a página de Feedbacks & Sugestões do Google.