そのキャプションがでてるページのアドレスは公開できますか?
また普通にwordpressデフォルトのキャプションの事を言われているのであれば、
.wp-caption img {
display: block;
margin: 0 auto; /*そのままだと画像がセンターに寄らないので追加*/
}
.wp-caption p {
margin: 0;
line-height: 1; /*要調整*/
}
これでベタベタになるはずです。imgタグはインライン要素なのでline-height等の影響を受けるのか隙間ができます。なのでblock要素にしてしまえばokです。p自体のマージンは既に触られているかと思いますが、ここも0、line-height:1にすればそれぞれにマージンなしのベッタベタです。line-heightは任意で調整して下さい。1.3とか。