その後検索したところ、Firefox6.0.2+OSXの一部の環境、かつフォント設定の詳細で「Webページが指定したフォントを優先する」のチェックが外れているときに発生するらしいことが判明。
とりあえず設定変更でホイールのズームは効くようになったが、どうしてそこを変更すると直るのかはまったくもってわからない。