Следовательно
$$ I=\int_{0}^{1}(x^2 -(x+1)^2-2x(x+1))dx+i\cdot\int_{0}^{1}(x^2-(x+1)^2+2x(x+1))dx $$ или $$ I=-\int_{0}^{1}(2x^2-4x-1)dx+i\cdot\int_{0}^{1}(2x^2-1)dx=-\frac{11}{3}-\frac{i}{3} $$ Второй способ: Подынтегральная функция является аналитической , можно применить формулу Ньютона-Лейбница : $$ \int_{i}^{1+2i}{z^2\,dz}=\frac{z^3}{3}|_{i}^{1+2i}=\frac{1}{3}\left((1+2i)^3-i^3)\right)=\frac{1}{3}(1+6i-12-8i+i)=-\frac{11}{3}-\frac{i}{3} $$