Meus 2 cents,
Tiveram alguns fatores - mas vale a pena lembrar que esta epoca foi marcada pela bolha de internet. As startups precisavam de um ferramental agil para criar as aplicoes e coloca-las para rodar (o que hoje chamamos de MVP).
Um ferramental tipico da epoca era o "LAMP": Linux (SO) + Apache (webserver) + MySQL (banco de dados) e P (PHP - linguagem de programacao).
Era muito facil e rapido desenvolver com este ferramental - e para quem era DEV acostumado com Clipper (harbor) ou Delphi, esta migracao era razoavelmente simples (apesar de ter de aprender o HTML + CSS + javascript/DOM).
Existia a concorrencia do ASP - mas rodava basicamente em Windows (que era pago e caro) - entao nem sempre era uma opcao.
O "LAMP" era gratuito e tinha uma comunidade bem ativa, desenvolvendo rapidamente as solucoes.
A licenca GPL do Linux permitia uso, modificacao e redistribuicao gratuita, inclusive comercial.
Isso atraiu empresas (como Red Hat, SUSE, Debian, etc.) e desenvolvedores, criando um ecossistema muito mais ativo que o BSD, cuja licenca BSD eh mais permissiva mas menos "contagiosa" (nao exige que software derivado continue livre).
EDIT: Lembrei de um detalhe: outro problema dos BSD em 91-93, era: a necessidade de aplicar patchs para tornar utilizavel (386BSD) e a questao do processo da AT&T contra os BSD por violacao de direitos - isso tudo tambem colaborou para acelerar a adocao do Linux ao inves do BSD.
Diferente de UNIXs proprietarios (Solaris, HP-UX, AIX), o Linux nao tinha custos de licenciamento nem travas de fornecedor (o que matou os UNIX neste segmento).
Enquanto os UNIX tradicionais eram voltados a servidores caros (Sun, IBM, HP), o Linux rodava muito bem em servidores x86 baratos, como os PCs comuns (mais um ponto matador).
Isso barateou drasticamente a adocao de servidores com Linux, principalmente para empresas pequenas e medias.
Por volta de 2000–2003, empresas como Red Hat, SUSE e IBM comecaram a oferecer suporte corporativo profissional ao Linux. (teve ate uma alianca chamada UNITED LINUX - que fracassou de modo retumbante - mas que tinha esta ideia).
EDIT: Acho que devo ter perdido em alguma gaveta alguns exemplares de cartao de visita com 'UNITED LINUX' estampado, que usava quando trabalhei como "consultor" desta ditribuicao na epoca. (assim como Conectiva, RedHat, Mandrake, SuSE, etc).
O kernel Linux evoluiu muito entre 1994 e 2003: suporte a redes, sistemas de arquivos robustos (ext2, ext3, ReiserFS), e arquitetura modular - e muitas vezes mais flexivel que o equivalente em BSD (o unix gratuito).
O modelo colaborativo de codigo aberto permitiu correcoes rapidas de bugs, suporte rapido a novas tecnologias (como IPv6, virtualizacao, novos protocolos de rede).
O BSD tinha qualidade tecnica excelente, mas comunidade menor e desenvolvimento mais conservador.
Dai - muitos servidores da Internet nascente (web, e-mail, DNS, etc.) foram montados com Linux, em universidades, ISPs, startups.
E a cultura hacker/universitaria adotou fortemente o Linux desde nos anos 90, o que gerou uma geracao de administradores especializados.
O Windows NT 4.0 (lancado em 1996) e mesmo o Windows 2000 ainda eram instaveis, inseguros e com alto custo de licenca (custo de aquisicao e custo de M.O. especializada eram limitadores).
Em 2001 a IBM anuncia investimento de US$ 1 bilhao em Linux - e isso colaborou para criar uma visao "profissional"/"coorporativa" do Linux (deixando de ser algo apenas academico/nerd/porao).
Resumindo: "free beer" (o Linux era gratuito), o LAMP pegou legal como ferramental para desenvolvimento, comunidade muito ativa, licenca GPL / as 4 liberdades do free software e depois investimentos coorporativos que deram o aspecto formal que o Linux precisava.
Acredito que o @clacerda deve ter outras consideracoes - mas de imediato lembro deste cenario.