Как я поняла, у нотариуса в случае заключения такого договора должны присутствовать мы с мужем и мой сын, как наследник обязательно.

Нужно ли присутствие второго, его сына?

Присутствие второго сына не нужно, поскольку он не будет являться стороной такого договора.

И что будет с нашим  с мужем завещании, которое мы оформили много лет тому назад после заключения наследственного договора?

К наследственному договору применяются правила о завещании. А эти правила гласят, что завещатель вправе посредством нового завещания отменить прежнее завещание в целом либо изменить его посредством отмены или изменения отдельных содержащихся в нем завещательных распоряжений.
Последующее завещание, не содержащее прямых указаний об отмене прежнего завещания или отдельных содержащихся в нем завещательных распоряжений, отменяет это прежнее завещание полностью или в части, в которой оно противоречит последующему завещанию.

Таким образом, наследственный договор отменит действие ранее составленных завещаний в отношении того же имущества (при необходимости можно соответствующее распоряжение прописать в договоре в отношении всего завещания).