\documentclass[12pt]{jsarticle}
\usepackage{amsmath,amssymb}
\pagestyle{empty}
\begin{document}
\setlength{\baselineskip}{22pt}
\begin{flushleft}
{\huge 5}
　$a$を実数として，2次の正方行列$A$，$B$を次のように定める．
\[ A=\begin{pmatrix} 1 & a+1 \\ 0 & -1 \end{pmatrix}, \hspace{1zw} B=\begin{pmatrix} a & 0 \\ 2 & -a\end{pmatrix} \]
　このとき，${((\cos t)A+(\sin t)B)}^2=O$をみたす実数$t$が存在するような$a$の範囲を求めよ．
ただし，$O$は零行列とする．
\end{flushleft}
\end{document}
