どのようにされて、どのようにうまく行かなかったか(例えば子テーマに追記したけれど反映されなかった、スマホで表示した時おかしなスペースがあいた等)がわかるともっと良いレスが期待できると思います。
僕は以下のようにすれば(web開発環境で)変更できたので、問題なく自由に変更できると思うのです。
後はどのような形態を希望されるかによって手法は変わると思います。
.wp-caption {
padding-top: 4px; /*なんならここもなくしても良いのかも*/
text-align: center;
background-color: transparent; /*背景色透明に変更*/
/* 不要
border: 1px solid #ddd;
border-radius: 3px;
background-color: #f3f3f3;
実験用
background-color: transparent;
border-radius: 0;
border: none;
*/
}
.wp-caption-text, .gallery-caption {
font-size: 80%;
margin: 5px; /*追加*/
}