[Dúvida/Sugestoes] Projeto Raspberry

Acredito que o NextCloud seja bem próximo do que você está procurando. Ele tem controle de acesso, apps nativos em várias plataformas diferentes, é open-source e relativamente fácil de rodar. Porém, eu acho que um Raspberry não é a melhor opção pra rodar um servidor do tipo. Lidar com arquivos no geral consome bastante de uma máquina e esse tipo de aplicação precisa ter uma disponibilidade muito alta, duas coisas que o Raspberry não é o melhor. Outra coisa pra se considerar, é que geralmente fazer port forwarding e rodar um negócio desses na rede de casa também pode trazer alguns riscos de segurança, mas não sei dizer pra você quais são os perigos reais e como se previnir.
Minha sugestão pra você como um projeto muito massa e muito útil é fazer um pi-hole ele funciona como um adblock na rede, então é muito efetivo e não tem como aqueles sites que te pedem pra desativar o adblock identificarem que você ta usando um pi-hole. Eu tenho um em casa com um Raspberry Pi Zero W, que roda muito bem, tirando uns gargalos quando tem muitos dispositivos ao mesmo tempo. Em breve vou fazer um upgrade nele.
Outra sugestão é o home assistant. Eu não manjo muito sobre isso, mas logo vou comprar um raspberry novo pra começar a testar isso.

Um servidor de arquivos é uma das milhares de coisas que meus pies fazem e funciona perfeitamente bem ;)

1. Dietpi. Gerenciamento feito via ssh.

2. Uso as funcionalidades de listagem e upload nativos do Nginx, atrás de um SSO feito com o Keycloak (que roda em outro pi). Também tenho um serviço de dynamic dns configurado.

3. Conversor sata para usb.

4. Perfomance e segurança.

5. Não.

Consigo responder só algumas, algumas, porque faz tempo que mexi com isso, e estou aberto a correções também.

1. Pode usar um FreeNas, Open Media Vault.
2. Pode usar uma case, para conectar o HD ou SSD externo ao Raspi
3. No geral, não.

Uma sugestão de vídeo: https://www.youtube.com/watch?v=8L7p6Qgh8wQ&ab_channel=Diolinux

Veja:

• CasaOS
• Umbrel
• Tailscale Funnel

Raspberry é complicado, todos os meus deram problema em relativamente pouco tempo de uso.

recomendo investir em um kit xeon

Qual S.O. usar para fazer esse gerenciamento de arquivos? Um Samba?

Samba é um protocolo, tipo ftp, http...

Como SO recomendo o TrueNas se você tiver paciência de estudar.

Qual software usar para expor esse servidor a rede externa? Que tipo de controle de acesso devo implementar?

Se for apenas para uso pessoal recomendo FORTEMENTE usar somente uma VPN. E não expor direto na internet. Para isso uso o Tailscale é facil de usar, gratuito.

Essa ideia tem como funcionar? Quais os maiores desafios que irei enfrentar?

Se seguir com a minha ideia de montar um servidor x99 a maior dificuldade vai ser configurar tudo. Se não souber montar um PC tem diversos vídeos na internet falando sobre.

Corre o risco de sofrer por conta de incompatibilidade de sistemas por exemplo: se eu tentar acessar o servidor por um celular ou por um windows tera diferença ?

Por qual Protocolo? aqui entra a pergunta do samba. Mas basicamente:

• Samba: Melhor compatibilidade com windows. Você consegue conectar e colocar como se fosse um HD no meu computador. Acessa nativamente e funciona que é uma beleza
• NFS: Melhor para linux. Funciona semelhante ao samba mas é muito mais performático.
• FTP: Tudo acessa mas é lento
• Interface WEB: Existem alguns gerenciadores que acessa pela web. Funciona em tudo mas precisa de uma boa pesquisa pra fazer funcionar