А что мешает проверить весь выходной каскад начиная с выхода ЦАП - подаешь вместо выхода ЦАП, на вход выходного каскада регулируемое напряжение от нуля до пяти вольт и проверяешь напряжение на выходе БП (ЦАП и сам процессор отключи). Заодно проверь обратную связь по напряжению до входа АЦП процессор...

Попробуй проверить, а может и заменить, резисторе ЦАП, так же проверь конденсаторы в выходном каскаде в цепи базы..., проверь фильтрацию/стабилизацию питания процессора..., может проблема в печатке.
Скорее какой-то самовозбуд...

Не знаю на сколько кому нужно, но вот ссылка на тему, где автор на основе проекта с данной темы сделал свой:
http://flowcode.info/forum/viewtopic.ph ... 4&start=30
А вот видео с youtube: http://www.youtube.com/watch?v=JiIJ7nlMR3I