A problem

Lição 9 de 20 do curso Enigmas Matemáticos da Coddy.

Triangulares, pentagonais e hexagonais, (Project Euler, Problema #45)

Números triangulares, pentagonais e hexagonais são gerados pelas seguintes fórmulas:

Triangular T(n)=n(n+1)/2 1, 3, 6, 10, 15, ...

Pentagonal P(n)=n(3n−1)/2 1, 5, 12, 22, 35, ...

Hexagonal H(n)=n(2n−1) 1, 6, 15, 28, 45, ...

Pode-se verificar que T(1)=P(1)=H(1)=1 e que T(285) = P(165) = H(143) = 40755.

Encontre o próximo número triangular que também seja pentagonal e hexagonal

Desafio

Difícil

Escreva uma função calc que resolva o problema e retorne um vetor com as três primeiras soluções para o problema. Isso significa [1, 40755, ...]

Experimente você mesmo

#include <stdio.h>
#include <stdlib.h>
#include <string.h>
#include <stdbool.h>
#include "solution.h"

int main() {
    int rs = 0;
    int* r = calc(&rs);
    for (int i = 0; i < rs; i++) {
        if (i > 0) printf(" ");
        printf("%d", r[i]);
    }
    printf("\n");
    return 0;
}