Если всё правильно, в первой получаем треугольник (правильный). Проверить можно построением
Решение вкратце:
Строишь фигуру. Выражаешь сторону многоугольника через радиус круга. Получается 2*R/корень из двух.
Выражаешь длину окружности как 2*пи*R, и периметр многоугольника как n*сторона=n*2*R/корень из двух. (n-количество сторон)
Решаешь неравенство Pмногоуг.<Pокр. Получается, что n<3,6
P.S. Поправил, сначала с расчетом чуток напутал.