На этот вопрос худо-бедно отвечают соответствующие статьи в Википедии.
Я бы дополнил эти статьи следующим.
В сущности, как и любая рубрикация, и эта - условна, идеологична. Идеологична она потому, что служит целям объединения разных (иногда, казалось бы, удивительно различных) явлений под одну вывеску в целях завладения всеобщим вниманием, занятия положения, облегчения разъяснений и/или сбыта.
Это просто надо иметь в виду и не терять из виду подлинную уникальность художественных произведений.
Теперь по сути.
И реализм и натурализм апеллируют к некоей истине (правде, жизненной правде и т.д.). Существование такой единой "правды" и истины даже не осознается, как проблема.
Разница между ними в том, где идеологи этих течений видят правду (истину).
Натурализм видит эту "правду" в способе организации белковых тел (ирония, если что), поэтому он тематизирует художественный текст, иногда насильно, в область физиологии человека и в область его социальной жизни, социальных конфликтов и предопределенности. Отсюда, между прочим, и Золя и, как это ни неожиданно, частично Ибсен (издержки рубрикации, да).
Реализм же не придерживается такой жесткой детерминации человеческого существования социальными условиями и физиологическими отправлениями, как натурализм, и полагает, что помимо биологических и социальных условий жизни "правда" включает в себя правду и драму человеческой "души", подаваемую как бы изнутри.
Для того, чтобы убедиться в чудовищности этой рубрики достаточно посмотреть список писателей-реалистов в статье Википедии "Реалисты". Там и Диккенс, и Бальзак, и Гоголь, и Куприн. И вообще-то возражать нечем: этих (и других) писателей действительно причисляли к реалистам. И про "человеческую душу" они-таки да писали.
Неслучайно возникновение обоих этих течений на излете европейского Просвещения, когда "было ясно", что истина есть и остается только найти подходящий метод для ее разыскания. Пусть и "художественный".
Понятно, что такая рубрикация исходит не только из того, что правда есть и она одна, но и из того, что задача искусства - "описать", донести эту правду.
За бортом рубрикации остается, собственно, создание того, чего ранее не было.
Это уже давно не мейнстрим, конечно. Но понятия, категории, рубрики остались.
Мы до сих пор говорим о какой-то картине - "натуралистично", о репортаже - "натуралистические подробности".
И, наверное, всегда будем говорить о портрете, похожем на свою модель, как о "реалистичном".