Квадрат любого действительного числа неотрицателен, и поэтому в действительных числах корня из отрицательного числа не существует. Однако ничто не мешает нам придумать абстрактный математический объект, похожий на число, и обладающий таким свойством, что его квадрат равен -1. Математика изучает именно такие абстрактные объекты и их свойства. Может так случиться, что такие объекты со "странными" (с бытовой точки зрения) свойствами приводят к противоречиям и не существуют. Может оказаться, что никаких противоречий нет, и можно развить вполне объемную и логически стройную теорию таких объектов, но никаких практических применений у них пока не обнаруживается. А может так получиться, что объекты получаются не только математически интересные, но находят и практические применения. С комплексными числами так и получилось. Хотя, конечно, не сразу.
Что же касается истории появления комплексных чисел, то это легко можно найти в интернете.