GABARITO: C

Observe que a partir do ponto A temos 5 diagonais distintas.

A partir do ponto B temos mais 5 diagonais distintas.

A partir do ponto C temos 5 diagonais mas uma delas tem extremidade em A e já foi contada quando contamos as diagonais a partir do ponto A. Então a partir do ponto C temos mais 4 diagonais distintas.

A partir do ponto D temos 5 diagonais mas duas delas já foram contadas, a diagonal com extremidade em B e a diagonal com extremidade em A. Logo, a partir do ponto D temos mais 3 diagonais distintas.

A partir do ponto E temos 5 diagonais mas 3 delas já foram contadas, a diagonal com extremidade em C, a diagonal com extremidade em B e a diagonal com extremidade em A. Dessa forma, a partir do ponto E temos mais 2 diagonais distintas.

A partir do ponto F temos 5 diagonais mas 4 delas já foram contadas, a diagonal com extremidade em D, a diagonal com extremidade em C, a diagonal com extremidade em B e a diagonal com extremidade em A. Consequentemente, a partir do ponto F temos mais 1 diagonal distinta.

Todas as 5 diagonais a partir do ponto G já foram contadas.

Todas as 5 diagonais a partir do ponto H já foram contadas.

Portanto o número de diagonais em um octógono é 5+5+4+3+2+1=20.