こんにちは。
正方形の長さと直角は問題ないとのことなので、設定の問題とかではなく部分的に負荷に負けているのかなと思いました。
直線に対して円は負荷の方向が変わっていくので、負荷に負けた遊びのような部分が悪さをしており特にX→YやY→Xの移動の割合が変わる部分（写真の鉛筆線同士の中間部）でその部分のズレが開放されたのではないか、という想像です。
一番弱いのはZ軸のホイールで掴んでいる部分だと思うので、一度その部分がぐらつきがないか、ホイールがフレームを挟み込んでいるか（手で回ってしまうことがないか）を確認してみると良いかと思います。
この構造の宿命なところはあると思うのですが、改善案としては
- Z軸方向の1回の切り込み量を小さくし、深さ方向に何度か切り込むようにする
- Z軸剛性補強キットを使ってみる
あたりかなと思います。
Zの切り込み量を小さくすることに関しては試しやすいと思うので、原因があっているかの確認も含めて試してみると良いかと思います。