Обязанность уплаты НДФЛ с продажи квартиры наступает, если квартира продана до истечения минимального предельного срока владения. Срок владения начинается с даты регистрации права. В вашем случае, с даты регистрации права по расторгнутому договору ренты.

Налог платить нужно.

Налоговую базу можно уменьшить только на сумму имущественных налоговых вычетов или на сумму фактических затрат на приобретение квартиры. Возврат средств по договору ренты не является ни тем, ни другим.

Но уменьшить налоговую базу на налоговый вычет при продаже, на сумму 1 млн. руб., она может (если, конечно, она его уже не использовала в этом налоговом периоде).

а можно уменьшить сумму уплаты налога, если расторжение по договору ренты было с возвратом средств по заключенному ранее договору?

Да