\(f\) est continue d'après le cours. Un carré étant positif, on en déduit que la constante \(k\) cherchée doit être nécessairement positive.
Calculons \(\displaystyle \int_a^b k~x^2~dx=k\left[\dfrac{x^3}{3}\right]_0^1=k\times \dfrac{1}{3}-k\times0\).
Puisque l'intégrale doit valoir 1, on en déduit que \(k=3\).
La fonction \(f :x\longmapsto 3~x^2\) est une densité de probabilité sur \([0 ;1]\).