Вы можете хотеть рассматривать использовать strcspn.
-- «Получите пядь характера - установите в шнур»
-- «Возвращает длину первоначально части str1 состоит только характерами будут часть str2.»
Например:
предложением чарса [] = «это будет шнур»;
int pos = strcspn (предложение, «");
В этот случай pos будет 4, поэтому вы знаете что предложением [0] через предложение [3] не будет пробелы. Вы можете после этого использовать strncpy с отсчетом 4 для того чтобы скопировать вне первые 4 чарса в ваш token буфер (и после этого добавить нулевой байт).
http://www.cplusplus.com/reference/clibrary/cstring/strspn/