読者です 読者をやめる 読者になる 読者になる

しゅみぷろ

プログラミングとか

戒めの暗黙的型変換

はじめに

esprog.hatenablog.com

esprog.hatenablog.com

これらに掲載したコードで一部、誤っている箇所が判明したのでお詫びとご報告をするのが今回のエントリー(。

以前紹介してたコードでは、メッシュの持つローカルな頂点座標で$z=0$の場合にバグります(取得するUV値がNaNになる)。 本当に凡ミスなのでアレですが、今後こんなことで時間を使うことが二度と起きないよう戒めとして書き残しておきます。

何が起きたか

f:id:es_program:20161009062419p:plain:w500

特定条件下でだけ、座標変換後の値がおかしくなっていました。 Projection変換後、通常座標への変換で符号が変わった際、複数の頂点で値が一致するというなんとも・・・なバグです。

何が悪かったのか

以前のコードを見てみましょう。 パフォーマンス・チューニング前後でバグのある箇所は変わらないので、今回はチューニング前のものを再掲。

using System.Collections;
using UnityEngine;

/// <summary>
/// サーフェス上の点pからuvを算出する
/// </summary>
public class CalcUV : MonoBehaviour
{
  private void Update()
  {
    if(Input.GetMouseButtonDown(0))
    {
      var ray = Camera.main.ScreenPointToRay(Input.mousePosition);
      RaycastHit hitInfo;
      if(Physics.Raycast(ray, out hitInfo))
      {
        var meshRenderer = hitInfo.transform.GetComponent<MeshFilter>();
        var mesh = meshRenderer.sharedMesh;
        for(var i = 0; i < mesh.triangles.Length; i += 3)
        {
          #region 1.ある点pが与えられた3点において平面上に存在するか

          var index0 = i + 0;
          var index1 = i + 1;
          var index2 = i + 2;

          var p1 = mesh.vertices[mesh.triangles[index0]];
          var p2 = mesh.vertices[mesh.triangles[index1]];
          var p3 = mesh.vertices[mesh.triangles[index2]];
          var p = hitInfo.transform.InverseTransformPoint(hitInfo.point);

          var v1 = p2 - p1;
          var v2 = p3 - p1;
          var vp = p - p1;

          var nv = Vector3.Cross(v1, v2);
          var val = Vector3.Dot(nv, vp);
          //適当に小さい少数値で誤差をカバー
          var suc = -0.000001f < val && val < 0.000001f;

          #endregion 1.ある点pが与えられた3点において平面上に存在するか

          #region 2.同一平面上に存在する点pが三角形内部に存在するか

          if(!suc)
            continue;
          else
          {
            var a = Vector3.Cross(p1 - p3, p - p1).normalized;
            var b = Vector3.Cross(p2 - p1, p - p2).normalized;
            var c = Vector3.Cross(p3 - p2, p - p3).normalized;

            var d_ab = Vector3.Dot(a, b);
            var d_bc = Vector3.Dot(b, c);

            suc = 0.999f < d_ab && 0.999f < d_bc;
          }

          #endregion 2.同一平面上に存在する点pが三角形内部に存在するか

          #region 3.点pのUV座標を求める

          if(!suc)
            continue;
          else
          {
            var uv1 = mesh.uv[mesh.triangles[index0]];
            var uv2 = mesh.uv[mesh.triangles[index1]];
            var uv3 = mesh.uv[mesh.triangles[index2]];

            //PerspectiveCollect(透視投影を考慮したUV補間)
            Matrix4x4 mvp = Camera.main.projectionMatrix * Camera.main.worldToCameraMatrix * hitInfo.transform.localToWorldMatrix;
            //各点をProjectionSpaceへの変換
            Vector4 p1_p = mvp * p1;
            Vector4 p2_p = mvp * p2;
            Vector4 p3_p = mvp * p3;
            Vector4 p_p = mvp * p;
            //通常座標への変換(ProjectionSpace)
            Vector2 p1_n = new Vector2(p1_p.x, p1_p.y) / p1_p.w;
            Vector2 p2_n = new Vector2(p2_p.x, p2_p.y) / p2_p.w;
            Vector2 p3_n = new Vector2(p3_p.x, p3_p.y) / p3_p.w;
            Vector2 p_n = new Vector2(p_p.x, p_p.y) / p_p.w;
            //頂点のなす三角形を点pにより3分割し、必要になる面積を計算
            var s = 0.5f * ((p2_n.x - p1_n.x) * (p3_n.y - p1_n.y) - (p2_n.y - p1_n.y) * (p3_n.x - p1_n.x));
            var s1 = 0.5f * ((p3_n.x - p_n.x) * (p1_n.y - p_n.y) - (p3_n.y - p_n.y) * (p1_n.x - p_n.x));
            var s2 = 0.5f * ((p1_n.x - p_n.x) * (p2_n.y - p_n.y) - (p1_n.y - p_n.y) * (p2_n.x - p_n.x));
            //面積比からuvを補間
            var u = s1 / s;
            var v = s2 / s;
            var w = 1 / ((1 - u - v) * 1 / p1_p.w + u * 1 / p2_p.w + v * 1 / p3_p.w);
            var uv = w * ((1 - u - v) * uv1 / p1_p.w + u * uv2 / p2_p.w + v * uv3 / p3_p.w);

            //uvが求まったよ!!!!
            Debug.Log(uv + ":" + hitInfo.textureCoord);
            return;
          }

          #endregion 3.点pのUV座標を求める
        }
      }
    }
  }
}

色々やってますが、おかしいのは以下の部分。

            //各点をProjectionSpaceへの変換
            Vector4 p1_p = mvp * p1;
            Vector4 p2_p = mvp * p2;
            Vector4 p3_p = mvp * p3;
            Vector4 p_p = mvp * p;

変換行列をそれぞれ掛けている部分です。 ここまで絞れれば話は簡単で、$p1,p2,p3,p$はVector3型だというのが問題になります。

Matrix4x4とVector3の演算の場合、operator* はMatrix4x4 * Vector4の演算と解釈してvectorのw要素を0として計算します。 変換では致命的ですね。本当に凡ミスなのですが、数式の方のミスだと思い、手記で検算したりして気付くのに時間かかりました。

正しくは

            //各点をProjectionSpaceへの変換
            Vector4 p1_p = mvp * new Vector4(p1.x, p1.y, p1.z, 1);
            Vector4 p2_p = mvp * new Vector4(p2.x, p2.y, p2.z, 1);
            Vector4 p3_p = mvp * new Vector4(p3.x, p3.y, p3.z, 1);
            Vector4 p_p = mvp * new Vector4(p.x, p.y, p.z, 1)

みたいな感じで$w=1$にしておきます。単純・・・。

行列変換などする場面では他の計算も応用し、色々コネる場面も多いかと思います。 式が複雑になってくると、何かどこもかしこも怪しい気がする...と疑心暗鬼になります。

Vector等暗黙的に型変換が行われ、かつ個々の要素が重要な役割を持つようなものはたとえ静的型付けであろうと、ある程度意識しておかないといけないよというお話でした。 こんなのでハマるのは自分だけなのかもしれませんが・・・