\documentclass[12pt]{jsarticle}
\usepackage{amsmath,amssymb}
\pagestyle{empty}
\begin{document}
\setlength{\baselineskip}{22pt}
\begin{flushleft}
{\huge 2}
　$xy$平面上で，原点を1つの頂点とし$y\geqq0$の部分にある正方形のうち，1次変換
\[ \begin{pmatrix} x' \\ y' \end{pmatrix}=
\begin{pmatrix} 3a+b & \sqrt3 \, (a-b) \\ \sqrt3 \, (a-b) & a+3b \end{pmatrix}
\begin{pmatrix} x \\ y \end{pmatrix} \]
によって長方形にうつされるものを求めよ．
ただし，$ab\neq0$とする．
\end{flushleft}
\end{document}
