По встречавшимся мне описаниям, Ansible - набор скриптов, работающих по через ssh. Со всеми вытекающими.
Puppet - брррр... Иерархия и применение этой иерархии к хосту тяжеловато для моего понимания. Грусть, печаль, тоска, тлен и безысходность.
В бзд-е есть еще такая весчь, называется pikt - годно. Просто, понятно.