BasicTeX は TeX Live のサブセットで，macOS 専用の TeX ディストリビューションです。 BasicTeX は TeX Live の scheme-small に対応し，LaTeX の文書作成に必要な最低限のパッケージと pdfTeX，LuaTeX，XeTeX などが含まれています。 BasicTeX には e-pTeX や e-upTeX が含まれていませんので，日本語の LaTeX 文書を作成するためには別途 collection-langjapanese をインストールします。 collection-langjapanese をインストールすれば，jsclasses や OTF，BXjscls，jlreq も利用可能になります。
More Packages - MacTeX - TeX Users Group またはミラーサイト (MacTeX) から BasicTeX.pkg をダウンロードします。
BasicTeX のインストールの概略は以下のとおりです。
sudo tlmgr install collection-langjapanesecollection-langjapanese をインストールすれば，依存関係で collection-langcjk もインストールされます。
Ghostscript、Latexmk は別途インストールする必要があります。
Homebrew で BasicTeX をインストールできます。
$ brew install --cask basictex $ sudo tlmgr update --self --all $ sudo tlmgr paper a4 $ sudo tlmgr install collection-langjapanese
TeX Live 2015 以前でのインストール事例・解説記事では，BasicTeX に加えて
$ sudo tlmgr install ptex
などとすれば日本語環境ができるとしているものがあります。 確かに 2015 以前では ptex をインストールすれば platex も使えるようになっていたのですが， 2016 以降では platex は platex パッケージに分離されました。 このため，ptex をインストールしただけでは platex が使えるようにはなりません。
日本語環境を構成するには，このページで解説しているように collection-langjapanese を インストールすることをおすすめします。
TeX Live の collection-langjapanese には LuaTeX-ja も含まれています。 しかし，BasicTeX + collection-langjapanese だけでは ltjsarticle.cls などを使った文書をタイプセットすることができません。 LuaTeX-ja を実際に使用するには，別途 collection-luatex (ctablestack.sty etc.) や collection-latexextra (filehook.sty etc.) などいくつかのパッケージを追加する必要があります。
% Twitter などを参考に再現してみて，最小構成を確認できれば追記します。 -- アセトアミノフェン (2016-06-22)
% ここが参考になりそう。