Eae pedrao, eu tambem estou iniciando em C, mas vou tentar responder sua pergunta
suponha:
value = 350; cedulas[cont] = 100;
então o teu code vai calcular quantas celulas
value / cedulas[cont]
350 / 100 = 3
3 || 0,
true || false = 1
o operador pipe compara dois valores, e diz se true(1) é verdadeiro, ou false(0) é falso,
ah vale lembrar que C cosidera tudo verdadeiro que é diferente de 0
pra ser sincero, não entendi muito bem porque você quis usar o pipe, talvez garantir que não haja divisão por 0, mas isso você deveria fazer no inicio do bloco, ou na entrada na função.