Могу ли я использовать расширение файла YAML?

Нет. В настоящее время dbt будет искать только файлы с расширением .yml. В будущих версиях dbt также будет искать файлы с расширением .yaml.