Chamando os lados do triângulos de A, B e C.
A formiga 1 pode escolher entre A e B,
A formiga 2 pode escolher entre B e C,
A formiga 3 pode escolher entre A e C.

Cada formiga pode escolher dois caminho, portanto são 8 combinações possíveis (2^3).
Somente as escolhas A-B-C e C-B-A impedem colisão entre formigas, portanto são 2/8 = 25% de chance.
Outra forma de ver é listando todas as possibilidades:

